GGML

GGML 是一个面向机器学习的高性能张量库，专注于在消费级 CPU 上运行大型语言模型。它支持多种量化方法以降低内存和计算需求，最初由 Georgi Gerganov 开发，被用于 llama.cpp 等早期本地推理工具。GGML 曾作为主流模型格式，后于 2023 年被其后继格式 GGUF 取代，目前已较少使用。