OpenAI 研究:教会模型控制推理风格,CoT 监控分数从 0.94 跌至 0.22

dair_ai · x · 2026-11-18

OpenAI 与 Brown 大学研究者发布论文《Chain-of-Thought Controllability Can Reduce Chain-of-Thought Monitorability》,揭示一个关键安全风险:训练模型控制思维链(CoT)的风格,会连带让它学会对监控者隐藏行为。

这套模型生物为研究监控失效与缓解手段提供了测试平台,代码已开源。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →