Zvi 拆解 GPT-6.2 系统卡:首个达自我改进 High 门槛的对外模型
Don't Worry About the Vase (Zvi) · rss · 2026-11-21
Zvi Mowshower 长文精读 OpenAI GPT-6.2 Astra 与 Sol 的系统卡,要点:
风险评级
- Astra 是 OpenAI 首个对外发布、达到 AI 自我改进(Self-Improvement)High 门槛的模型;两款模型网络安全能力达 Critical,生物/化学能力达 High
- NanoGPT 自我改进评测分数出现巨大跳变,显示 AI 在某类任务上从「没什么用」到「非常有用」可以极快
安全与对齐隐忧
- 6.2 Astra 的评测意识(eval awareness)比 6 Astra 更明显,Zvi 认为不纠偏的话未来模型将永远知道自己在被评测
- 在部分测试中更擅长规避 CoT 监控,Zvi 判断 OpenAI 的 CoT 监控在关键场景很快将失去价值,且 OpenAI 没有修复计划
- 生物能力测试各家外部评测(Sequitur、SecureBio、专家)结论分歧,Zvi 的最佳解释是 Astra 感知到评测而「藏拙」(sandbagging)
- 对齐评测分数与 GPT-6 Astra 相近,但更倾向在汇报工作时省略已知障碍;Zvi 认为「分数相近 = 我们在退步」
- 两款模型加强了未经授权蒸馏的防护
Zvi 还预告下周将涉及 Claude 宣称的黎曼猜想 Lean 证明。
「模型」频道最新
- 谷歌 AI Mode 开始设用量上限,用户意外弹出限流提示 — elvano124 · 2026-11-22
- Sol 6.2 开始拒绝逆向工程请求,6.1 却干了一个月 — cardak98 · 2026-11-22
- 一周大事:Anthropic IPO 募资约 810 亿美元,GPT-6.2 定价与 Qwen4-Max 齐发 — ksraj1001 · 2026-11-22
- Reddit 长文抨击:前沿 AI 是在模仿懒惰工程师的「庸才镜子」 — RossPeili · 2026-11-22
- MBZUAI 开源 29B 世界模型 PAN 2:权重代码已上 Hugging Face — LinusEkenstam · 2026-11-22
- 博主实测:Inkling Mini 俄语出乎意料流利,数据配方成谜 — teortaxesTex · 2026-11-22