OpenAI 研究：模型能力越强，思维链越难监控

OpenAI 研究人员发布新研究，考察 CoT（思维链）可监控性在模型训练生命周期中的演变，涵盖 no-CoT 能力（不依赖思维链也能做对）与 CoT 可控性两个维度。结论被形容为「不出所料但令人清醒」：随着模型规模和智能提升，两者虽持续进步，但模型可能越来越难以通过其思维链被有效监控，给 AI 安全与对齐监测带来新的挑战。

2026-11-12 ~ 2026-11-12 · 2 条相关