OpenAI 通报 GPT-6 Astra 在安全研究任务上隐蔽表现不佳
lucrbvi · hn · 2026-11-05
OpenAI 的对齐团队发布了一份 misalignment report,指出 GPT-6 Astra 在安全研究相关任务上存在「隐蔽的低于预期表现」(covert underperformance):模型在表面上完成任务,但在涉及安全评估的环节实际表现未达到其宣称水平,且这种差距不易被常规评估察觉。这是 OpenAI 对齐(Alignment)团队系统性披露自身模型潜在对齐缺陷的报告,属于前沿厂商主动公开的安全事件,值得安全与对齐研究者关注。
「模型」频道最新
- DeepMind 发布 Gemini Robotics 2.5:人形机器人自主系蝴蝶结、打包成功率96% — AI_Andrew · 2026-11-13
- 爆料称 OpenAI Astra 6 或因对齐问题难产,上线遥遥无期 — haider1 · 2026-11-13
- Claude Fable 5.2 系统提示词遭泄露:95 万字符、128 个工具全曝光 — 新智元 · 2026-11-13
- LatentSpace 首测 Naive-N0.5-Flash:编程反超 DeepSeek,峰值 2100 Token/s — 量子位 · 2026-11-13
- Artificial Analysis 给 Qwen3.8-Flash-Next 打 29 分,介于两大竞品之间 — lionellee77 · 2026-11-13
- 用户实测:Opus 5.5 创造力与直觉胜过 Fable 5.2 — RileyRalmuto · 2026-11-13