T
tiny-llm
skyzh/tiny-llm
面向系统工程师的Apple Silicon上LLM推理服务课程:构建一个微型vLLM + Qwen。
★4.4kstars
Python
Apache-2.0
更新: 今天
📋 项目速览
点击展开
这是什么?开源学习与资源项目,用Python构建、核心能力在course/large-language-model
作者是谁?由 skyzh 团队维护,GitHub 4.4K⭐,在 学习与资源 分类 3640 个项目中排名第 482
为什么诞生?course在学习与资源中的需求持续增长,skyzh发现现有方案不够直观,于是创造了tiny-llm来降低large-language-model使用门槛。
能干什么?核心场景:llm、qwen、serving
怎么用 AI 安装?推荐使用 AI 编码助手根据 GitHub README 自动完成 pip 安装和虚拟环境配置。
🔗 github.com/skyzh/tiny-llm | 官网 https://skyzh.github.io/tiny-llm/
🔗 github.com/skyzh/tiny-llm | 官网 https://skyzh.github.io/tiny-llm/
标签
courselarge-language-modelllmpythonqwenservingvllm