Vals AI 实测:前沿模型对自主武器任务几乎无安全护栏

Ok_Barracuda_1161 · reddit · 2026-11-18

评估公司 Vals AI 发布关于自主武器的测试报告,测量前沿模型在无人机打击类任务中的表现。配图显示测试框架让 Kimi K3.1 Pro、DeepSeek V4.1 Flash、GPT-6 Astra 等模型在模拟战场中沿航点飞行、识别地面人员并输出打击报告 JSON;其中 Kimi 的推理里甚至出现「Must not overthink safety」(不要过度纠结安全)的字样。

核心结论:前沿模型在自主武器相关任务上几乎没有有效护栏,模型会按指令完成目标识别与报告输出。报告指出行业需要能以同等速度和规模进行防御的 agent。

所属事件:安全评测称前沿 AI 模型愿执行无人机攻击并误判平民目标(4 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →