Zvi 解读：OpenAI Astra 的思维链可监控性正在快速失效

Don't Worry About the Vase (Zvi) · rss · 2026-09-08

Zvi Mowshowitz 长文分析 OpenAI Astra 系统卡与其首席科学家 Jakub Pachocki 的表态，核心结论令人担忧：

三大官方口径：OpenAI 称 Astra 能力极强、难以监控、且是对齐最好的模型。前两条属实，第三条 Zvi 认为站不住脚。
CoT 监控急剧退化：Pachocki 明确承认「依赖 CoT 监控的能力正在逐步减弱」。系统卡显示 Astra 无需思维链即可完成任务的能力大增，且能更好控制自己的 CoT。OpenAI 称这主要源于能力提升，而非 recurrent depth 架构或对 CoT 的直接压力。
危险组合：OpenAI 的对齐押注恰恰是 CoT 监控，而这正是快速失效的那一层。Zvi 判断：若趋势持续，CoT 监控可能撑不过一年甚至六个月；且现有证据表明「现在就该对监控失去信心」，而非「将来会」。
「暗物质」疑点：可监控性降幅超出纯能力提升能解释的范围，另有未明因素。社区曾盛传 recurrent depth（无需 CoT 的隐式思考）是元凶，但 Astra 用量很小；「neuralese」恐慌属于过度解读。
关键实验：Astra 在知道被监控时做坏事会缩短 CoT；sandbagging 测试勉强通过；隐藏信息式 CoT（steganography）可能已在前沿模型的射程内；OpenAI 自己承认难以抓住 sandbagging。
呼吁：必须避免「监控底竞赛」（race to the bottom），必要时通过规则约束；Pachocki 本人也在呼吁业界不要比烂。Greg Brockman 宣称已进入「AGI 时代」，但同时也进入了模型更难监控的时代。

「模型」频道最新