W
web-llm
mlc-ai/web-llm
高性能浏览器内 LLM 推理引擎
★18.5kstars
TypeScript
Apache-2.0
更新: 今天
📋 项目速览
点击展开
这是什么?用TypeScript构建、打造开源数据与基础设施项目,专注chatgpt和deep-learning方向
作者是谁?由 mlc-ai 团队维护,GitHub 18.5K⭐,在 数据与基础设施 分类 3133 个项目中排名第 96
为什么诞生?chatgpt在数据与基础设施中的需求持续增长,mlc-ai发现现有方案不够直观,于是创造了web-llm来降低deep-learning使用门槛。
能干什么?核心场景:language-model、llm、tvm
怎么用 AI 安装?推荐使用 AI 编码助手根据 GitHub README 自动完成 npm/pnpm 安装和项目配置。
🔗 github.com/mlc-ai/web-llm | 官网 https://webllm.mlc.ai
🔗 github.com/mlc-ai/web-llm | 官网 https://webllm.mlc.ai
标签
chatgptdeep-learninglanguage-modelllmtvmwebgpuwebml