GGUF：修订间差异

2026年5月23日 (六) 23:14的最新版本

GGUF（GPT-Generated Unified Format）是一种用于存储和加载大型语言模型的文件格式，由ggerganov开发，旨在替代早期的GGML格式。它支持多种量化级别，可显著减小模型体积并提高推理速度，主要被llama.cpp、LM Studio等本地推理工具采用。GGUF在2023年8月随llama.cpp的更新而推出，成为本地部署量化LLM的主流格式。

2026年5月23日 (六) 23:14的版本查看源代码天明（留言 \| 贡献）行政员、界面管理员、管理员 3,733次编辑创建页面，内容为“GGUF（GPT-Generated Unified Format）是一种用于存储和加载大型语言模型的文件格式，由ggerganov开发，旨在替代早期的GGML格式。它支持多种量化级别，可显著减小模型体积并提高推理速度，主要被llama.cpp、LM Studio等本地推理工具采用。GGUF在2023年8月随llama.cpp的更新而推出，成为本地部署量化LLM的主流格式。” 标签：可视化编辑		2026年5月23日 (六) 23:14的最新版本查看源代码天明（留言 \| 贡献）行政员、界面管理员、管理员 3,733次编辑小无编辑摘要标签：可视化编辑
第1行：		第1行：
	GGUF（GPT-Generated Unified Format）是一种用于存储和加载[[大型语言模型]]~~的文件格式，由ggerganov开发，旨在替代早期的GGML格式。它支持多种量化级别，可显著减小模型体积并提高推理速度，主要被llama~~.cpp、[[LM Studio]]等本地推理工具采用。GGUF在2023年8月随llama.cpp的更新而推出，成为本地部署量化LLM的主流格式。		GGUF（GPT-Generated Unified Format）是一种用于存储和加载[[大型语言模型]]的文件格式，由ggerganov开发，旨在替代早期的[[GGML]]格式。它支持多种量化级别，可显著减小模型体积并提高推理速度，主要被llama.cpp、[[LM Studio]]等本地推理工具采用。GGUF在2023年8月随llama.cpp的更新而推出，成为本地部署量化LLM的主流格式。