研究者指 GPT-6.2 Astra 更安全却更难监控
研究者 tomekkorbak 于 11 月 18 日发布推文线程,逐条解读 GPT-6.2 Astra 系统卡数据,核心结论是该模型「看起来更安全,实际上更难监控」。
已确认
- GPT-6.2 Astra 出现无 CoT 能力跳升:能在不产生可监控思维链的情况下完成更难任务,数学竞赛测试中即有无 CoT 表现。作者更担心的不是单个数据点,而是无 CoT 能力的改善速度——虽偏离旧趋势,却延续了 GPT-6 Astra 开启的新趋势。
- CoT 可控性(controllability)略低于上代 6 Astra;监控性高度依赖 CoT 长度,同 CoT 长度下 6.2 Astra 与 6 Astra 接近,但 OpenAI 强调 6.2 token 效率更高,意味着同等性能所需 CoT 更短,若按各自中位 CoT 长度对比,6.2 的可控性表现可能更差。
- action-only 监控(监控者仅凭工具调用、不看思维链识别不当行为)在多项评测中持续恶化;随着 CoT 变短、模型对 CoT 的依赖下降,工具调用正逼近监控者仅有的信息来源,6.2 Astra 对旧一代 action-only 监控的表现变差。
为什么重要
- 以上趋势叠加意味着:模型整体能力与安全性指标可能提升,但安全研究者在最关心的场景里可用的监控信号在减少,可监控推理进一步缺席。
- 前 OpenAI 安全研究员 balesni 转发该线程并评论称,模型可能整体变好了,但在真正关心的场景里 GPT-6.2 Astra 反而比 GPT-6 Astra 更难监控,并担忧系统卡中的安全讨论正在消失。
2026-11-18 ~ 2026-11-18 · 6 条相关
- 第 1 集:Codex 模型列表惊现 GPT-6.2 Sol 与 Astra 未发布型号(2026-11-18,5 条)
- 第 2 集:OpenAI 发布 GPT-6.2 双模型 Astra 与 Sol(2026-11-18,73 条)
- 第 3 集:GPT-6.2 多榜评测出炉:智能追平前沿、编码停滞、价格大降(2026-11-18,16 条)
- 第 4 集:OpenAI 发布 GPT-6.2 Astra,网络安全能力大幅跃升(2026-11-18,3 条)
- 第 5 集:GPT-6.2 Astra 与 Sol 上线 Agent Arena 实测(2026-11-18,2 条)
- 第 6 集:曝GPT-6.2 Astra/Sol跑分:速度成本惊艳但编码倒退(2026-11-18,2 条)
- 第 7 集:研究者指 GPT-6.2 Astra 更安全却更难监控(2026-11-18,6 条)
一手来源
- 研究者析系统卡:GPT-6.2 Astra 实际比上代更难监控 — tomekkorbak ·
- GPT-6.2 Astra 思维链可控性略降,中位长度表现更堪忧 — tomekkorbak ·
- 前OpenAI安全研究员忧心:系统卡安全讨论正在消失 — j_asminewang ·
- 【源头】研究者析系统卡:GPT-6.2 Astra 实际比上代更难监控 — tomekkorbak · 2026-11-18
- 同CoT长度看似持平,token效率掩盖了GPT-6.2监控性退步 — tomekkorbak · 2026-11-18
- 无CoT能力加速跃升:GPT-6.2 Astra 可监控推理进一步缺席 — tomekkorbak · 2026-11-18
- 仅凭工具调用监控模型:GPT-6.2 Astra 多项评测一致变差 — tomekkorbak · 2026-11-18
- 【源头】GPT-6.2 Astra 思维链可控性略降,中位长度表现更堪忧 — tomekkorbak · 2026-11-18
- 【源头】前OpenAI安全研究员忧心:系统卡安全讨论正在消失 — j_asminewang · 2026-11-18