C
chitu
thu-pacman/chitu
用于大型语言模型的高性能推理框架，专注于效率、灵活性和可用性。
★3.1kstars
Python
Apache-2.0
更新: 今天
📋 项目速览
点击展开
这是什么？一个数据与基础设施领域的deepseek/gpu工具，用Python构建、开源
作者是谁？由 thu-pacman 团队维护，GitHub 3.1K⭐，在 数据与基础设施 分类 3133 个项目中排名第 557
为什么诞生？deepseek在数据与基础设施中的需求持续增长，thu-pacman发现现有方案不够直观，于是创造了chitu来降低gpu使用门槛。
能干什么？核心场景：llm、llm-serving、model-serving
怎么用 AI 安装？推荐使用 AI 编码助手根据 GitHub README 自动完成 pip 安装和虚拟环境配置。
🔗 github.com/thu-pacman/chitu | 官网 https://chitu.ai/
🔗 github.com/thu-pacman/chitu | 官网 https://chitu.ai/
标签
deepseekgpullmllm-servingmodel-servingpytorch