OpenAI被指背叛CoT安全，专家忧引发恶性军备竞赛
sjgadler · x · 2026-09-02
针对近期关于“OpenAI实现完整神经语言(Neuralese)、链式思维已死”的观点，作者认为可能存在过度解读。尽管细节未明，但他担心这会诱发其他公司认为OpenAI先违约，从而纷纷跟进放弃安全约束。即使OpenAI确有违约，也不应成为放弃CoT透明度的理由。作者强调忠实CoT是珍贵的礼物，技术进步与商业激励可能使其迅速消失，必须警惕这种“玩火”行为。
所属事件:OpenAI Astra 被曝循环深度潜空间推理，安全圈忧 CoT 监控失效(96 条相关)→
「漫话AGI」频道最新
- 对冲基金大佬 Ole Lehmann：AI 正在大规模削减招聘，动荡期将至 — MattGarciaEth · 2026-09-12
- Timnit Gebru 称 AI 灭绝论是转移视线，DeepMind 前研究员反驳 — Turn_Trout · 2026-09-12
- a16z Casado 盘点网络安全史，称 AI 安全事件远少于互联网早期 — pmddomingos · 2026-09-12
- 剑桥研究者详解「渐进式失权」：AI 如何慢慢夺走人类控制权 — ronbodkin · 2026-09-12
- 人类中也有大量「未对齐」个体，社会为何还能繁荣？ — ethanniser · 2026-09-12
- 25位菲尔兹奖得主联署声明：AI 公司与数学界严重错位 — natolambert · 2026-09-12