P
petals
bigscience-workshop/petals
🌸 在家以BitTorrent风格运行LLM。微调和推理速度比卸载快10倍
★10.5kstars
Python
MIT
更新: 今天
📋 项目速览
点击展开
这是什么？用Python构建、打造开源数据与基础设施项目，专注bloom和chatbot方向
作者是谁？由 bigscience-workshop 团队维护，GitHub 10.5K⭐，在 数据与基础设施 分类 3133 个项目中排名第 184
为什么诞生？随着bloom和chatbot在数据与基础设施中的普及，bigscience-workshop打造了petals作为一站式解决方案。
能干什么？核心场景：deep-learning、distributed-systems、falcon
怎么用 AI 安装？推荐使用 AI 编码助手根据 GitHub README 自动完成 pip 安装和虚拟环境配置。
🔗 github.com/bigscience-workshop/petals | 官网 https://petals.dev
🔗 github.com/bigscience-workshop/petals | 官网 https://petals.dev
标签
bloomchatbotdeep-learningdistributed-systemsfalcongptguanacolanguage-modelslarge-language-modelsllamamachine-learningmixtralneural-networksnlppipeline-parallelismpretrained-modelspytorchtensor-parallelismtransformervolunteer-computing