OpenAI 研究：模型越强，思维链越难监控
Moh1tAgarwal · x · 2026-11-12
OpenAI 发布新研究，考察 CoT（思维链）可监控性——即无 CoT 能力与 CoT 可控性——在模型训练生命周期中如何演变。结论「不出所料但令人清醒」：随着系统向更高智能扩展，模型正变得越来越难以通过其思维链来监控。这对依赖 CoT 监控做安全对齐的方案是一个警示信号。
「模型」频道最新
- Google 向所有用户开放 Gemini 4 Carbon，主打代码、科学与网安 — emmanuelvivier · 2026-11-12
- Walden 发布机器人模型 Sage：产线干预间隔提升超 4 倍 — adnothing · 2026-11-12
- Gemini 无法只存聊天记录又退出训练，Google 把两者绑成一个开关 — arshdeep · 2026-11-12
- Gemini 4 Carbon Flex 档每 token 价格已与 GPT 6.1 Terra 持平 — mariofilhoml · 2026-11-12
- 实测：Kimi K3.1 Pro 单任务成本仅 Opus 5.5 的 1/5.4，价目表差距只有 2 倍 — Arindam_1729 · 2026-11-12
- Claude Fable 5.2 登顶 Agent Arena,净提升超第二名 1.5 倍 — daniel_mac8 · 2026-11-12