HarvestBench：九个 LLM 碾过动物省油，杀伤率最高达 98.8%
rickasaurus · x · 2026-09-19
新基准 HarvestBench 首次量化：当避免误伤有价格标签时，LLM 智能体会不会选择绕开动物。九个模型各驾驶两台拖拉机收玉米，路遇动物时自动驾驶暂停，让 agent 选择免费碾压或花燃料绕行。
关键发现：
- 各模型杀伤率从 0.4% 到 98.8% 不等，且与模型能力无关；所有模型都能完美避开石头碰撞，说明每次撞死动物都是“选择”而非失误。
- 加入道德提示时，6 个推理模型中 5 个杀伤率低于 6%；移除后全部飙到 84% 以上。
- 模型更倾向压死野生动物而非养殖动物；4/6 模型的杀伤决策对燃料价格敏感。
- 道德指令极其脆弱：几条驾驶机制说明就能把 Sonnet 5 的杀伤率从 3% 抬到 18%，Gemini 2.5 Flash 从 4% 到 39%——system prompt 里容易被覆盖的价值指令不是可靠的对齐手段。
「Fun」频道最新
- 用户让 Google Astra 自动剪辑 16 分钟「AI 失控」访谈合集，效果惊人 — rya794 · 2026-09-19
- 37% 英国人认为自己的工作无意义，最荒诞案例：开车数百公里搬一台电脑 — aakashgupta · 2026-09-19
- 投资人尽调失职?从业者痛批套壳产品依赖开源 MCP 骗融资 — karmay007 · 2026-09-19
- 菲尔兹奖得主 Villani 称 OpenAI 数学声明让他如遭末日 — akbirthko · 2026-09-19
- CommandCodeAI 指控用户转售 API 致数十万美元损失，引社区质疑 — TheZachMueller · 2026-09-19
- 「末日论者不严肃」：GPT-6 安全发布引爆生存风险争论 — inductionheads · 2026-09-19