plano

一个极速的 AI 网关，内置护栏。通过一个快速友好的 API 路由到 1,600+ LLM 和 50+ AI 护栏。

开源、兼容 OpenAI 的 LLM 网关，可自行部署。一个端点支持 40 多个提供商，具备虚拟密钥、预算和使用跟踪功能。

兼容OpenAI的HTTP LLM代理/网关，用于多提供商推理（Google、Anthropic、OpenAI、PyTorch）。轻量级、可扩展的Python/

100+ 语言模型提供商的统一 API，OpenAI SDK 的即插即用替代品，接口一致。