K
ktransformers
kvcache-ai/ktransformers
一个用于体验异构 LLM 推理/微调优化的灵活框架
★19.2kstars
Python
Apache-2.0
更新: 今天
📋 项目速览
点击展开
这是什么?数据与基础设施领域,基于tools-infra和tools-infra的用Python构建、开源工具
作者是谁?由 kvcache-ai 团队维护,GitHub 19.2K⭐,在 数据与基础设施 分类 3133 个项目中排名第 91
为什么诞生?数据与基础设施领域快速发展,tools-infra场景缺乏高效方案,ktransformers应运而生,专注于简化tools-infra相关工作流程。
能干什么?核心场景:tools-infra
怎么用 AI 安装?推荐使用 AI 编码助手根据 GitHub README 自动完成 pip 安装和虚拟环境配置。
🔗 github.com/kvcache-ai/ktransformers | 官网 https://kvcache-ai.github.io/ktransformers/
🔗 github.com/kvcache-ai/ktransformers | 官网 https://kvcache-ai.github.io/ktransformers/