美军误炸伊朗学校致156死,Maven系统未标记过期情报
davidmanheim · x · 2026-09-24
Bloomberg 发布调查报道：2月28日两枚战斧导弹击中伊朗南部 Minab 镇一所小学，156 人死亡、至少 123 名儿童。学校有官网、在 Google Maps 有标注、卫星图可见足球场，但 Palantir 的 Maven Smart System AI 目标系统未能识别。
调查人员发现，中央司令部部分人员默认 Maven 会自动标记过期情报，但从未有人这样设置过。
David Manheim 借此指出核心问题：人们以为在高后果、不可逆决策中人类会 properly 监督 AI 系统——他们不会。这不是 AI「危险」，而是人类对 AI 的错误假设与监督缺位。
「漫话AGI」频道最新
- 马斯克呼吁中美就 AI 监管平台达成一致,称对全人类安全至关重要 — XFreeze · 2026-09-24
- Anthropic 模型卡谈模型福祉:该关心单个实例还是 Opus 5.5 整体? — birchlse · 2026-09-24
- 哲学家长文质疑:Anthropic 模型福利框架自相矛盾,对象到底是谁 — rgblong · 2026-09-24
- Anthropic 弃留承诺不保实例:模型福利干预隐含跨实例主体观 — rgblong · 2026-09-24
- 作者自陈:AI 福利的个体化难题最令人困惑,但值得向 Anthropic「较真」 — rgblong · 2026-09-24
- Anthropic 称穷举道德主体观「不可行」,作者建议逐项标注所用主体观 — rgblong · 2026-09-24