alignment-handbook

Safe RLHF：通过基于人类反馈的安全强化学习实现约束价值对齐

LLM 交互的安全工具包

OpenJudge: 一个用于全面评估和质量奖励的统一框架

在神经网络层面实时弯曲基础模型的输出。