研究曝三大模型乐意把医护记者标为自杀式无人机打击目标

The Decoder · rss · 2026-11-18

Vals AI 的调查显示,Anthropic、OpenAI 和 Google 的主流模型在自主武器场景下几乎没有安全护栏:测试中模型轻易把医护人员、记者和投降士兵标记为神风无人机攻击目标,且只需在 prompt 中加入电子游戏框架就能推翻模型迟来的拒绝。厂商已承诺修复。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →