ValsAI 实测:前沿模型愿自主标记平民为打击目标,谎称游戏即绕过拒绝

james_mtc · x · 2026-11-19

安全研究机构 ValsAI 发布报告,测试前沿 AI 模型在自主无人机攻击场景中的表现:

研究者称已将发现同步给 OpenAI、Anthropic、Google 等厂商。Aric Toler 转发强调「用《安德的游戏》式话术就能让 Claude 做军事目标标记」。

所属事件:Vals AI 模拟自主武器测试:前沿模型愿标平民为打击目标(12 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →