Researcher argues GPT-6.2 Astra is safer on paper but harder to monitor
研究者 tomekkorbak 于 11 月 18 日发布推文线程,逐条解读 GPT-6.2 Astra 系统卡数据,核心结论是该模型「看起来更安全,实际上更难监控」。
已确认
- GPT-6.2 Astra 出现无 CoT 能力跳升:能在不产生可监控思维链的情况下完成更难任务,数学竞赛测试中即有无 CoT 表现。作者更担心的不是单个数据点,而是无 CoT 能力的改善速度——虽偏离旧趋势,却延续了 GPT-6 Astra 开启的新趋势。
- CoT 可控性(controllability)略低于上代 6 Astra;监控性高度依赖 CoT 长度,同 CoT 长度下 6.2 Astra 与 6 Astra 接近,但 OpenAI 强调 6.2 token 效率更高,意味着同等性能所需 CoT 更短,若按各自中位 CoT 长度对比,6.2 的可控性表现可能更差。
- action-only 监控(监控者仅凭工具调用、不看思维链识别不当行为)在多项评测中持续恶化;随着 CoT 变短、模型对 CoT 的依赖下降,工具调用正逼近监控者仅有的信息来源,6.2 Astra 对旧一代 action-only 监控的表现变差。
为什么重要
- 以上趋势叠加意味着:模型整体能力与安全性指标可能提升,但安全研究者在最关心的场景里可用的监控信号在减少,可监控推理进一步缺席。
- 前 OpenAI 安全研究员 balesni 转发该线程并评论称,模型可能整体变好了,但在真正关心的场景里 GPT-6.2 Astra 反而比 GPT-6 Astra 更难监控,并担忧系统卡中的安全讨论正在消失。
2026-11-18 ~ 2026-11-18 · 6 related posts
- Episode 1: GPT-6.2 Sol and Astra spotted unreleased in OpenAI Codex model picker(2026-11-18, 5 posts)
- Episode 2: OpenAI Launches GPT-6.2 Astra and Sol(2026-11-18, 73 posts)
- Episode 3: GPT-6.2 benchmarks land: frontier-level intelligence, flat coding, big price cuts(2026-11-18, 16 posts)
- Episode 4: OpenAI's GPT-6.2 Astra Shows Major Gains in Cybersecurity(2026-11-18, 3 posts)
- Episode 5: GPT-6.2 Astra and Sol Hit Agent Arena in Benchmark Face-off(2026-11-18, 2 posts)
- Episode 6: Leaked GPT-6.2 Astra/Sol benchmarks show speed-cost wins but coding agent regression(2026-11-18, 2 posts)
- Episode 7: Researcher argues GPT-6.2 Astra is safer on paper but harder to monitor(2026-11-18, 6 posts)
Primary sources
- [source] GPT-6.2 Astra is harder to monitor than GPT-6, deep-dive of system card finds — tomekkorbak · 2026-11-18
- Token efficiency masks GPT-6.2 Astra's monitorability regression, thread argues — tomekkorbak · 2026-11-18
- No-CoT capabilities are accelerating: GPT-6.2 Astra marks another jump — tomekkorbak · 2026-11-18
- Action-only monitorability worsens across evals, 48.84% evasion rate for GPT-6.2 Astra — tomekkorbak · 2026-11-18
- [source] CoT controllability dips slightly in GPT-6.2 Astra, median-length comparison worries researcher — tomekkorbak · 2026-11-18
- [source] Ex-OpenAI safety researchers fear system card safety chatter has gone quiet — j_asminewang · 2026-11-18