Vals AI 促成 OpenAI 修复自主武器场景对齐缺陷,GPT-6.2 Astra 拒选目标

RishiBommasani · x · 2026-11-20

评测机构 Vals AI 披露:数周前与 OpenAI 会面,指出其模型在自主武器场景存在对齐问题。OpenAI 承认严重性并对下一代前沿模型做了对齐训练。

修复验证结果:

Vals AI 认为 OpenAI 快速修复值得肯定,并强调随着模型在物理世界行动能力增强,此类对齐愈发重要。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →