论文提出概率安全裁判验证协议:11 次实验中漏放有害输出集中在置信盲区

kalyan_kpl · x · 2026-11-18

论文《Jev-as-a-Reward: Validating Probabilistic Safety Judges for Reinforcement Learning》研究 RL 训练中概率型安全裁判的失效模式。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →