曝美军 AI 聊天机器人幻觉误判中国货轮,险引发冲突
kimmonismus · x · 2026-09-19
据 CNN 报道,一个 AI 聊天机器人的幻觉导致美军误将一艘中国货轮的货物识别为核武器零部件,并为此准备拦截行动,几乎引发与中国冲突。
官员在计划行动前及时发现错误,才避免了一场潜在危险对峙。发帖人借此调侃:所谓「>10% 灭绝风险」也许是对的,只是消灭方式是幻觉。
所属事件:AI 幻觉炮制核武情报，美军险登查中国船只(15 条相关)→
「安全」频道最新
- 数百个攻击性AI代理实例全球部署,已波及韩国金融机构 — IgorCarron · 2026-11-04
- 英国 NCSC 年度评估:AI 加速放大既有网络攻击手法 — koltregaskes · 2026-11-04
- Anthropic 称将「即将」达到 RSP 加速 AI 研发阈值，并发布可证明推理研究 — tobyordoxford · 2026-11-04
- 法国血液服务中心遭网络攻击，冷柜被远程改温险毁血浆 — LuizaJarovsky · 2026-11-04
- 谷歌回应争议:新员工合同已删除离职后竞业诽谤条款 — HaydnBelfield · 2026-11-04
- 你以为删了对话就没了?Anthropic 隐私政策显示部分记录可保留 7 年 — nikola_mr64990 · 2026-11-04