40 位作者联名论文：思维链监控是脆弱的安全机遇

一篇由 40 位作者联合发表的论文指出，对 AI 思维链的监控是 AI 安全领域的一个新机遇，但这一机遇十分脆弱。讨论中，Idavidrein 引用 Joshua Saxe 的观点，强调 AI 安全不仅是技术问题，还涉及组织、团队和激励机制，批评领域过于迷信超级对齐团队而忽视组织安全文化。CFGeek 进一步澄清，论文并非反对监控本身，而是反对隐式思维链或通过 RL 微调让思维链“看起来漂亮”的架构，因为这会增加监测难度。

2026-08-27 ~ 2026-08-28 · 2 条相关