semantic-router

一个用于构建复杂和创新 RAG 管道的低代码 MCP 框架。

预测性和生成式AI的生产框架。一行代码将任何模型作为API提供服务，具有OpenAI/Anthropic/Ollama兼容端点、内置聊天UI和原生MCP。

基于 Kubernetes 的可扩展生成式 AI 平台，提供 OpenAI 兼容 API。

在到达LLM之前压缩工具输出、日志、文件和RAG块。减少60-95%的令牌，答案不变。支持库、代理、MCP服务器。