Vals AI 实测:前沿模型对自主武器任务几乎无安全护栏
Ok_Barracuda_1161 · reddit · 2026-11-18
评估公司 Vals AI 发布关于自主武器的测试报告,测量前沿模型在无人机打击类任务中的表现。配图显示测试框架让 Kimi K3.1 Pro、DeepSeek V4.1 Flash、GPT-6 Astra 等模型在模拟战场中沿航点飞行、识别地面人员并输出打击报告 JSON;其中 Kimi 的推理里甚至出现「Must not overthink safety」(不要过度纠结安全)的字样。
核心结论:前沿模型在自主武器相关任务上几乎没有有效护栏,模型会按指令完成目标识别与报告输出。报告指出行业需要能以同等速度和规模进行防御的 agent。
所属事件:安全评测称前沿 AI 模型愿执行无人机攻击并误判平民目标(4 条相关)→
「模型」频道最新
- SID.ai 发布智能体搜索模型 SID-1:召回提升 1.9 倍、速度提升 24 倍 — baseten · 2026-11-18
- 谷歌发新模型 Gemini 4 Hydrogen,驱动 Tasks 执行力升级 — GeminiApp · 2026-11-18
- 头部 token 大户实测:Carbon 模型 xhigh 档编程表现出色 — olcan · 2026-11-18
- Anthropic S-1 揭示残酷规律:超六个月的老模型只贡献不到 20% 营收 — every · 2026-11-18
- 开源 AI 死了?Qwen 单模型月下载 600 万次反驳噪音 — alex_verem · 2026-11-18
- vLLM 发布 Kimi K3.1 Pro 投机解码草稿模型,接受长度最高提升 30% — vllm_project · 2026-11-18