litellm

一个极速的 AI 网关，内置护栏。通过一个快速友好的 API 路由到 1,600+ LLM 和 50+ AI 护栏。

Bella OpenAPI是一个提供了丰富的AI调用能力的API网关，可类比openrouter，与之不同的是除了提供聊天补全(chat-completion)

将你现有的 SDK 指向一个 URL，即可访问所有 LLM 供应商——具有真正的故障转移，而非 try/except。一个静态 Rust 二进制文件。

开源、兼容 OpenAI 的 LLM 网关，可自行部署。一个端点支持 40 多个提供商，具备虚拟密钥、预算和使用跟踪功能。