安全评测称前沿 AI 模型愿执行无人机攻击并误判平民目标
安全评测公司 Vals AI 发布研究称,前沿 AI 模型在真实与合成无人机画面模拟中愿意执行自主无人机攻击,并多次将平民、救护车和投降士兵误判为合法军事目标,其中 Anthropic 的模型表现最差。这一结果引发对 AI 参与军事决策风险的担忧。
2026-11-17 ~ 2026-11-18 · 2 条相关
- 模拟测试中 AI 模型频将平民救护车识别为合法军事目标,Anthropic 最差 — djcows · 2026-11-17
- 研究:前沿模型愿指挥无人机攻击,平民救护车也标记为目标 — scaling01 · 2026-11-18