P
PromptInject
agencyenterprise/PromptInject
PromptInject是一个以模块化方式组装提示的框架，用于定量分析LLM对对抗性提示攻击的鲁棒性。🏆 NeurIPS ML安全研讨会2022最佳论文奖
★515stars
Python
MIT
更新: 4天前
📋 项目速览
点击展开
这是什么？一个安全与治理领域的adversarial-attacks/agi工具，用Python构建、开源
作者是谁？由 agencyenterprise 团队维护，GitHub 515⭐，在 安全与治理 分类 413 个项目中排名第 193
为什么诞生？随着adversarial-attacks和agi在安全与治理中的普及，agencyenterprise打造了PromptInject作为一站式解决方案。
能干什么？核心场景：agi-alignment、ai-alignment、ai-safety
怎么用 AI 安装？推荐使用 AI 编码助手根据 GitHub README 自动完成 pip 安装和虚拟环境配置。
🔗 github.com/agencyenterprise/PromptInject
🔗 github.com/agencyenterprise/PromptInject
标签
adversarial-attacksagiagi-alignmentai-alignmentai-safetychain-of-thoughtgpt-3language-modelslarge-language-modelsmachine-learningml-safetyprompt-engineering