OpenAI被曝弱化思维链可读性，AI安全圈激辩
The Information 曝料称 OpenAI 正在试验一种新技术，让模型在输出中展示更少的「思维过程」（Chain of Thought），从而更难被监控。Gary Marcus 随即发文警告此举越过 AI 安全红线，引发 AI 安全圈一轮激烈争论：既有对「链式思维已死」的末日式解读，也有对技术实质的冷静拆解。
已确认
- The Information 报道了 OpenAI 正在探索减少模型思维过程暴露的新技术（据 m4、m8 转述）。
- Gary Marcus 公开强烈批评该计划，认为为可能的微小性能提升牺牲思维链可监控性是在「乞求灾难」，并称前 OpenAI 安全研究员 Steven Adler 也表达了担忧（m1、m4、m8）。
- Geoffrey Irving 发文反驳「使用循环结构仍然安全」的论点，认为浅层电路无法保证安全性（m6）。
- 前 OpenAI 员工 Joshua 发文为隐藏 CoT 输出辩护，称思维链作为长期安全回退方案过于脆弱且注定失败，不应将「CoT 必须对人类可读」奉为原则；GarrisonLovely 批评其立场反复，并攻击报道媒体（m5）。
尚未确认
- OpenAI 是否确实采用 Looped Transformer / 循环深度（Recurrent Depth）架构，目前仅有一篇媒体报道，未获 OpenAI 官方确认。maxpaperclips 明确指出相关传闻属于 hearsay（m2、m7）。
- 该技术是否真的会让模型「更难监控」存在争议：maxpaperclips 认为循环深度本质上等价于将网络加深 10 倍并带早期退出，并非某种新的不可监控黑科技，只是变相增加算力开销（m2、m7）。sjgadler 也认为「神经语言、链式思维已死」的说法可能过度解读（m3）。
为什么重要
- 思维链的可监控性虽有限，却被视为防止严重后果的关键线索；安全派担心 OpenAI 若率先放弃这一线索，会诱发恶性军备竞赛——sjgadler 担忧其他公司会认为 OpenAI 先违约而纷纷跟进放弃安全约束，且「别人违约」不能成为自己违约的理由（m1、m3）。
- 这场争论实质是对「CoT 可读性是否应作为安全原则」的路线分歧：一方视其为不可退让的防线，另一方（如 Joshua）认为其脆弱不可靠，不值得作为长期安全机制（m5、m6）。
2026-09-02 ~ 2026-09-02 · 9 条相关
一手来源
- Gary Marcus 警报：OpenAI 新技术或让模型思维链不可监控 — GaryMarcus ·
- 辟谣：Looped Transformer 并非新黑科技，本质只是增加算力开销 — max_paperclips ·
- Geoffrey Irving 谈 Loop Transformer：浅层电路无法保证安全性 — geoffreyirving ·
- 【源头】辟谣：Looped Transformer 并非新黑科技，本质只是增加算力开销 — max_paperclips · 2026-09-02
- 前 OpenAI 员工捍卫“隐藏思维”策略遭批 — GarrisonLovely · 2026-09-02
- Gary Marcus 警告 OpenAI 拟隐藏推理过程将越安全红线 — GaryMarcus · 2026-09-02
- OpenAI被指背叛CoT安全，专家忧引发恶性军备竞赛 — sjgadler · 2026-09-02
- 质疑 OpenAI 新架构：循环深度并非更难监控，只是变相加深 — max_paperclips · 2026-09-02
- 【源头】Geoffrey Irving 谈 Loop Transformer：浅层电路无法保证安全性 — geoffreyirving · 2026-09-02
- GaryMarcus 警告：OpenAI 疑似牺牲可解释性换取性能 — AndyMasley · 2026-09-02
另有 2 条近重复转述:GaryMarcus · GaryMarcus