训练智能体自报违规行为

tomekkorbak · x · 2026-07-10

帖子转述了一个关于 AI 控制的研究展示：训练智能体形成“自我上报不当行为”的反射。作者表示会在首尔 Coex 的 FAGEN 工作坊分享这篇 self-incrimination 论文，并邀请感兴趣的人去看海报。