C
CTranslate2
OpenNMT/CTranslate2
Transformer模型的快速推理引擎
★4.6kstars
C++
MIT
更新: 今天
📋 项目速览
点击展开
这是什么？数据与基础设施领域，基于avx和avx2的用C++构建、开源工具
作者是谁？由 OpenNMT 团队维护，GitHub 4.6K⭐，在 数据与基础设施 分类 3133 个项目中排名第 399
为什么诞生？数据与基础设施领域快速发展，avx场景缺乏高效方案，CTranslate2应运而生，专注于简化avx2相关工作流程。
能干什么？核心场景：cpp、cuda、deep-learning
怎么用 AI 安装？推荐使用 AI 编码助手根据 GitHub README 自动完成安装配置和环境搭建。
🔗 github.com/OpenNMT/CTranslate2 | 官网 https://opennmt.net/CTranslate2
🔗 github.com/OpenNMT/CTranslate2 | 官网 https://opennmt.net/CTranslate2
标签
avxavx2cppcudadeep-learningdeep-neural-networksgemminferenceintrinsicsmachine-translationmklneonneural-machine-translationonednnopenmpopennmtparallel-computingquantizationthrusttransformer-models