LiteLLM

LiteLLM 是一个开源 Python 库，提供统一的 API 接口调用多种大型语言模型提供商，包括 OpenAI、Anthropic、Cohere 等。主要用途是简化多模型集成，支持快速切换、负载均衡和容错。核心特点包括统一的输入输出格式、自动重试、速率限制处理、令牌成本跟踪。项目最初发布于 2023 年，由开发者社区维护，常用于构建需要灵活调用不同 LLM 的应用程序。