「不透明串行深度」论文量化 CoT 必要性，回应 OpenAI 架构传闻
ArthurConmy · x · 2026-09-04
前 mech interp 研究者 Arthur Conmy 就 The Information 关于 OpenAI 疑似 looped transformer 架构的报道引发的争论发表看法，认为围绕该报道的讨论质量不佳，并引用一篇 arXiv 论文说明技术脉络：
- 论文《Quantifying the Necessity of Chain of Thought through Opaque Serial Depth》（Brown-Cohen、Lindner、Shah，arXiv:2603.09786）提出「不透明串行深度」概念：模型不经由可解释中间步骤（如 CoT）所能完成的最长计算长度。
- 论文为 Gemma 3 系列模型计算了不透明串行深度的数值上界，并给出其他架构的渐近结果。
- 团队开源了可自动计算任意神经网络不透明串行深度上界的方法，并用其表明 MoE 模型的深度可能低于稠密模型。
- 结论：非 neuralese 与 neuralese 模型之间并非二元对立，串行深度存在连续谱；作者希望前沿模型的这一深度保持较小，以维持 CoT 可监控性。
这条讨论的意义在于：即便出现循环/更深层串行计算的新架构，可监控性论证也可被形式化并定量评估。
所属事件:循环层架构疑云：CoT 可监控性引发安全圈激辩(7 条相关)→
「安全」频道最新
- Center for AI Safety 发布《机器学习安全导论》课程大纲 — ArtificialOther · 2026-10-21
- Ben Goertzel提出超级智能「基础驱力」通用框架：看它改什么、护什么 — bengoertzel · 2026-10-21
- 美国政府新门户 America.gov 上线:整合 2.9 万网站并支持 AI 举报欺诈 — soleio · 2026-10-21
- 开源工具 EvilWAF：传输层 MITM 代理绕过现代 WAF 行为检测 — godfrey_rono · 2026-10-21
- AI 安全研究者 Manheim 访谈存档：能力错配而非意识觉醒才是真风险 — davidmanheim · 2026-10-21
- Domingos 断言：按 GDPR 口径 LLM 预训练在欧洲属违法 — pmddomingos · 2026-10-21