查看“︁GGML”︁的源代码

GGML 是一个面向[[机器学习]]的高性能张量库，专注于在消费级 [[CPU]] 上运行[[大型语言模型]]。它支持多种量化方法以降低内存和计算需求，最初由 Georgi Gerganov 开发，被用于 llama.cpp 等早期本地推理工具。GGML 曾作为主流模型格式，后于 2023 年被其后继格式 [[GGUF]] 取代，目前已较少使用。