AI 幻觉炮制核武情报，美军险登查中国船只
据 CNN 记者 Katie Bo Lillis 与 Zachary Cohen 独家报道，今年春天伊朗战事期间，美国特种作战司令部（SOCOM）一名分析师用 AI 聊天机器人将开源材料与机密信号情报融合，生成一份标准格式情报报告并在军中传阅，报告错误声称一艘位于中东水域的中国船只运载核武器项目零部件。美军据此准备拦截与登船检查，武装人员就位、军用飞机待命，直到行动前夕才发现该报告由 AI 辅助生成且结论有误。消息人士称这是一次「险情」（close call），才避免了一场潜在的危险对峙。事件于 9 月 19 日经 CNN 披露、Ars Technica 跟进后，在科技社区广泛传播，被视为 AI 幻觉渗入军事决策链的标志性案例。
已确认
- 事件由 CNN 独家报道，署名记者为 Katie Bo Lillis 与 Zachary Cohen，信源为消息人士；Ars Technica 亦有跟进报道
- 涉事分析师隶属美国特种作战司令部（SOCOM），对货物内容的识别有误
- 报告由 AI 聊天机器人辅助生成，幻觉出「一艘在中东的中国船只运载核武器部件」的结论，并在军中传阅
- 武装人员已准备登船、军用飞机待命，官员在计划行动前及时发现错误，行动未执行
- @basedjensen 转述报道时形容美国「几乎对中国开战」；AI 安全研究者 Paul Scharre 转发该报道，称这是涉及国家安全的严重隐患
- @ArtificialOther 指出这是 AI 在敏感决策场景被误用导致实际风险的最新案例
为什么重要
- 这是 AI 幻觉渗入军事决策链并造成实际行动风险的罕见有据案例
- @PerAsperaAdMars 强调事件正值各国军方加速采用 AI 工具之际，凸显情报生产流程的可靠性风险
- @yongqianme 概括事件暴露的隐性风险是「机器让人类组织运转快到无法核实」
- @LabyrinthineChef 认为真正值得担忧的不是 AI 无人机蜂群，而是全球尺度上让 AI 参与生死决策的过度依赖；@kimmonismus 借此讽刺 AI 安全讨论中的「>10% 灭绝风险」说法，认为真实风险以更平庸的方式出现；@ambaonadventure 也指出存在性风险未必来自 AI 能力本身；转发者 @teropa 调侃「军工复合体进入了 vibe 时代」
2026-09-19 ~ 2026-09-19 · 15 条相关
一手来源
- CNN 独家：美军因 AI 虚假情报报告险酿事故 — ArtificialOther ·
- 聊天机器人误报核武情报,美军险对中国船只动手 — basedjensen ·
- 美军分析师用 AI 写情报报告出现幻觉,险登船检查错误目标 — ctjlewis ·
- 【源头】美军分析师用 AI 写情报报告出现幻觉,险登船检查错误目标 — ctjlewis · 2026-09-19
- 【源头】CNN 独家：美军因 AI 虚假情报报告险酿事故 — ArtificialOther · 2026-09-19
- 曝美军 AI 聊天机器人幻觉误判中国货轮,险引发冲突 — kimmonismus · 2026-09-19
- 美军情报报告由 AI 辅助生成误判船只货物，险些登船行动 — JacquesThibs · 2026-09-19
- 【源头】聊天机器人误报核武情报,美军险对中国船只动手 — basedjensen · 2026-09-19
- AI 幻觉炮制核武情报，美军险些登查中国船只 — Polymarket · 2026-09-19
- AI 情报报告误判货船载核部件,险触发美军登船行动 — ambaonadventure · 2026-09-19
- AI 幻觉编造中国核部件情报,险些引发美军行动 — LabyrinthineChef · 2026-09-19
另有 7 条近重复转述:PerAsperaAdMars · teropa · paul_scharre · agstrait · CtrlAltDwayne · polymute · yongqianme