传 OpenAI 新技术削弱 CoT 可监控性,Bengio 等联署论文作者回应
GaryMarcus · x · 2026-09-03
据 The Information 报道,OpenAI 新技术降低了思维链(CoT)的可监控性,Gary Marcus 紧急呼吁大家重读 2025 年论文《Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety》(作者含 Yoshua Bengio、Beth Barnes、Adrià Garriga-Alonso、Neel Nanda 等)。论文核心观点:CoT 监控与其他已知 AI 监督手段一样并不完美,会漏掉部分不当行为,但前景可观,值得在现有安全措施之外持续投入研究。论文原作者之一 Tomasz Korbak 转发表态「仍完全坚持论文结论:CoT 可监控性脆弱但值得保全、且有可能保全」。
所属事件:OpenAI 新技术削弱 CoT 可监控性，AI 安全圈激辩替代方案(40 条相关)→
「安全」频道最新
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18
- Polymarket 开出 OpenAI 年内全面暂停训练仅 8% 概率 — Polymarket · 2026-10-18
- OpenAI 工程师涉藏偷拍设备被捕，申请保释并否认欲逃沙特 — Polymarket · 2026-10-18
- 网友为离奇的 Hugging Face 入侵事件创作漫画解读 — Flugelwagen · 2026-10-18