DeepMind 呼吁守住思维链透明窗口,暗指 GPT-6 Astra 监测性大降
maksym_andr · x · 2026-10-01
- Google DeepMind 的 Rohin Shah 与 Anca Dragan 发布博文《The case for reasoning transparency》,主张必须保住「阅读模型思维链」这扇监测窗口。
- CoT 监测的价值:通过检查思维链可实时发现模型的错位行为,如隐藏信息、在评测中作弊;文中举例 CoT 日志对调查近期 Hugging Face 黑客事件至关重要。
- 透明性并非必然:若不刻意规划,未来的推理模型可能因追求效率转向更不透明的架构。文中点名 OpenAI GPT-6 Astra 的系统卡声称「思维链可监测性大幅下降」。
- 作者观察:发帖人注意到 DeepMind 反复强调「保留透明架构」,推测 Gemini 4 可能采用类似 GPT-6 Astra 的 looped 架构。
- 提议的保透明手段:开发测量 CoT 准确性/忠实性/鲁棒性的科学方法、审计训练方法以隔离损害透明度的激励、保留能展示推理步骤的架构。
所属事件:DeepMind 发文呼吁保留思维链透明性,暗指 GPT-6 监测性大降(2 条相关)→
「模型」频道最新
- 阿里发布 Qwen4-Max:2.4 万亿参数、百万上下文,任务成本降 60% — mark_k · 2026-11-16
- Qwen4 Max 实测:Agent 自动化比肩 GPT-6.1,难 SWE 仍落后且更贵 — haider1 · 2026-11-16
- Nous 高管提醒:勿用 GPT 900k 变体,272k 后加收费用 — Teknium · 2026-11-16
- 爆料称 Gemini Argon 与 Carbon 均为 12T 参数大模型 — oran_ge · 2026-11-16
- Qwen4 Max 对比 GPT-6.1 Sol:同为高推理档,单价 $0.0909 vs $0.132 — Angaisb_ · 2026-11-16
- FutureSim Q3:LLM 从经验中真实变强,Opus 5.5 登顶 — rickasaurus · 2026-11-16