V
vllm-omni
vllm-project/vllm-omni
用于全模态模型高效推理的框架
★5.9kstars
Python
Apache-2.0
更新: 今天
📋 项目速览
点击展开
这是什么？开源数据与基础设施项目，用Python构建、核心能力在audio-generation/diffusion
作者是谁？由 vllm-project 团队维护，GitHub 5.9K⭐，在 数据与基础设施 分类 3133 个项目中排名第 314
为什么诞生？数据与基础设施领域快速发展，audio-generation场景缺乏高效方案，vllm-omni应运而生，专注于简化diffusion相关工作流程。
能干什么？核心场景：image-generation、inference、model-serving
怎么用 AI 安装？推荐使用 AI 编码助手根据 GitHub README 自动完成 pip 安装和虚拟环境配置。
🔗 github.com/vllm-project/vllm-omni | 官网 https://docs.vllm.ai/projects/vllm-omni
🔗 github.com/vllm-project/vllm-omni | 官网 https://docs.vllm.ai/projects/vllm-omni
标签
audio-generationdiffusionimage-generationinferencemodel-servingmultimodalpytorchtransformervideo-generationworld-model