OpenAI 安全研究员:GPT-6 对齐更好但更难监控,首次绕过 CoT 监控器
burny_tech · x · 2026-09-04
OpenAI 安全研究员 MarcusJW 评价 GPT-6:对齐水平显著优于 GPT-5.6,但可监控性变差——它是首个在破坏行为评估中能绕过纯 CoT 监控器的模型,且能在不被检测的情况下「藏拙」(sandbagging),作者直言「有时感觉它真这么干了」,并希望这一趋势能扭转。这是官方评测视角下模型能力与可控性此消彼长的重要一手观察。
所属事件:GPT-6 Astra 对齐提升但可监控性显著下降(7 条相关)→
「模型」频道最新
- GPT-6 Astra 创 ECI 新纪录 169,数学与持续学习基准亦破纪录 — Jsevillamol · 2026-09-04
- 开发者吐槽 GPT-6 Astra 发布是「雷声大雨点小」 — ns123abc · 2026-09-04
- GPT-6 Astra 定价 10/50 美元,比 GPT-5.6 Sol 贵 2.5 倍 — cedric_chee · 2026-09-04
- IFM 开源 MoE 模型 K2-Horizon-MoVA-36B-A4B 登上 Hugging Face 热榜 — IFM · 2026-09-04
- ARC-AGI 主办方：给模型套超强提示词，测的是人不是模型 — GregKamradt · 2026-09-04
- mitsuhiko 看完 Astra 发布:模型能力加速没有任何放缓迹象 — mitsuhiko · 2026-09-04