B
bitsandbytes
bitsandbytes-foundation/bitsandbytes
通过k位量化实现PyTorch可访问的大语言模型
★8.4kstars
Python
MIT
更新: 今天
📋 项目速览
点击展开
这是什么？用Python构建、打造开源数据与基础设施项目，专注llm和machine-learning方向
作者是谁？由 bitsandbytes-foundation 团队维护，GitHub 8.4K⭐，在 数据与基础设施 分类 3133 个项目中排名第 238
为什么诞生？llm在数据与基础设施中的需求持续增长，bitsandbytes-foundation发现现有方案不够直观，于是创造了bitsandbytes来降低machine-learning使用门槛。
能干什么？核心场景：pytorch、qlora、quantization
怎么用 AI 安装？推荐使用 AI 编码助手根据 GitHub README 自动完成 pip 安装和虚拟环境配置。
🔗 github.com/bitsandbytes-foundation/bitsandbytes | 官网 https://huggingface.co/docs/bitsandbytes/main/en/index
🔗 github.com/bitsandbytes-foundation/bitsandbytes | 官网 https://huggingface.co/docs/bitsandbytes/main/en/index
标签
llmmachine-learningpytorchqloraquantization