bisheng

TensorZero是一个开源LLMOps平台，统一了LLM网关、可观测性、评估、优化和实验功能。

在到达LLM之前压缩工具输出、日志、文件和RAG块。减少60-95%的令牌，答案不变。支持库、代理、MCP服务器。

用于在应用中集成生成式AI的定制化RAG框架🧠专注于产品而非RAG。通过定制化轻松集成到现有产品中！支持任何LLM：GPT4、Groq、Llama。任何向量存

此仓库展示了检索增强生成（RAG）系统的各种高级技术。每种技术都有详细的笔记本教程。