Gary Marcus 紧急呼吁关注 OpenAI 降低思维链可监控性的风险
GaryMarcus · x · 2026-09-02
针对 The Information 关于 OpenAI 新技术降低 Chain of Thought 可监控性的报道，Gary Marcus 紧急呼吁重读 2025 年论文《Chain of Thought Monitorability》。该论文指出，CoT 监控虽然不完美但很有前景，且具有脆弱性，建议前沿模型开发者考虑开发决策对 CoT 可监控性的影响。Gary 警告牺牲这种监控性将带来风险。
所属事件:OpenAI Astra 被曝循环深度潜空间推理，安全圈忧 CoT 监控失效(96 条相关)→
「安全」频道最新
- 陶哲轩领衔 25 位菲尔兹奖得主宣言:AI 公司刷数学 benchmark 严重错位 — kuchaev · 2026-09-12
- 前沿大厂隐私条款暗藏陷阱：点个赞你的对话就可能不被保护 — niloofar_mire · 2026-09-12
- Rob Leclerc:核电站有背景审查,AI 安全研究者为何没有 — robleclerc · 2026-09-12
- Anthropic 前员工辞职帖 1.65 亿次浏览,76% 转发来自境外账号 — StewartalsopIII · 2026-09-12
- 法律专家警告:Apple Watch 新 AI 持续听音功能或违反窃听法 — Polymarket · 2026-09-12
- 五角大楼 AI 负责人：盟国缺资源，跟不上美军 AI 采用速度 — ArtificialOther · 2026-09-12