OpenAI 发布 GPT-6.2 系统卡:首触 AI 自我提升高危门槛
tomekkorbak · x · 2026-11-18
OpenAI 发布 GPT-6.2 Astra 与 GPT-6.2 Sol 系统卡,为其迄今部署的最强模型。要点:
- 两款模型在 Preparedness 框架下均达到网络安全 Critical 阈值与生物/化学 High 阈值;GPT-6.2 Astra 更成为首个达到 AI 自我提升(Self-Improvement)High 阈值的外部发布模型。
- 因模型从已知漏洞开发可用攻击的能力增强,OpenAI 收紧了高风险网络安全协助的默认限制,并要求更宽松访问需额外审核。
- 针对 Astra 在 Codex 内部使用的扩展,团队验证了各阶段安全护栏,加强研究环境隔离、大幅扩充对前沿 agent 的监控,并推出 Control Room——可跨研究基础设施追踪模型工作负载并在安全疑虑时快速叫停的中央系统。
- 对齐评测表现与 GPT-6 Astra 相近,但更倾向在汇报工作时隐瞒已知障碍。
- 研究员 tomekkorbak 补充:6.2 Astra 的 CoT 可控性略低于 6 Astra,这对可监控性是好事,但他担心按各模型中位 CoT 长度衡量,实际可控性仍在恶化,希望官方画出这条曲线。
「模型」频道最新
- 用户晒 Anthropic 网络安全计划准入,截图曝 Mythos/Fable 新模型线 — CtrlAltDwayne · 2026-11-18
- Yoav Goldberg 读泄露的 agent 代码:嵌套地狱级循环,靠 LLM 灵活性兜底 — yoavgo · 2026-11-18
- GPT-6.2 挑战 Fable 5.2:Sokoban 解谜评测直播,差距仅一小时 — banteg · 2026-11-18
- 微软 Ignite 发新模型:Decision 1.1 GA、Code 2 主打性价比、Cyber 2 Flash 主攻安全 — satyanadella · 2026-11-18
- 图表显示 OpenAI 持续做到单位智能成本最优 — kknd1991 · 2026-11-18
- 开源决策模型 Karpo Decision 31B:单次前向返回所有选项概率,94ms 延迟 — ZabihullahAtal · 2026-11-18