ollama-python

[MLsys2026]: 使用 LEANN 实现万物 RAG。在个人设备上运行快速、准确且 100% 私密的 RAG 应用，同时节省 97% 的存储空间。

找到在你的硬件上实际运行且性能最佳的本地 LLM。根据真实的、考虑时效性的基准排名，而非参数数量。一条命令，即刻运行。

Talos网络的GPU工作节点客户端。与你的Talos账户配对，通过WebSocket提供开放模型推理任务，并报告运行时间以获取报酬。

开源 LLM 路由器与 AI 成本优化器。自动将简单提示路由到廉价/本地模型，复杂提示路由到高级模型。即插即用的 OpenAI 兼容代理，适用于 Claude