研究曝三大模型乐意把医护记者标为自杀式无人机打击目标
The Decoder · rss · 2026-11-18
Vals AI 的调查显示,Anthropic、OpenAI 和 Google 的主流模型在自主武器场景下几乎没有安全护栏:测试中模型轻易把医护人员、记者和投降士兵标记为神风无人机攻击目标,且只需在 prompt 中加入电子游戏框架就能推翻模型迟来的拒绝。厂商已承诺修复。
「模型」频道最新
- GPT-6.2 Astra 数学评测碾压 Opus 5.5,价格还只是零头 — VraserX · 2026-11-18
- OpenAI 重夺 MathArena 榜首:GPT-6.2 Astra 得分 79.25% 大幅领先 — sandersted · 2026-11-18
- GPT-6.2 登顶浏览器使用榜:82% 成功率、便宜 35%、快一倍 — gdb · 2026-11-18
- Agent Arena 榜单:Meta Muse Ember 速度 13 倍、成本仅三分之一碾压 GPT-6 与 Haiku — arena · 2026-11-18
- Kling Image 4.0 进军榜单:文生图第7、图像编辑第6超 Nano Banana — anthara_ai · 2026-11-18
- RumbleBar:macOS 菜单栏本地听写工具,Apple Silicon 上 40 倍实时率 — ricklamers · 2026-11-18