serve

服务 AI 应用和模型的最简单方式——构建模型推理 API、任务队列、LLM 应用、多模型管道等！

RAG（检索增强生成）框架，用于构建模块化、开源的生产级应用程序，由 TrueFoundry 提供

在 Kubernetes 上进行 ML 流水线编排和模型部署。

ClearML Agent - 简化MLOps/LLMOps。MLOps/LLMOps调度与编排解决方案。