美军用 AI 生成错误情报报告险酿事故，研究者警告自动化偏置成现实风险

mmitchell_ai · x · 2026-10-01

CNN 独家报道称，美国军方因采用 AI 生成的错误情报报告而险些酿成严重后果。

AI 研究者 Margaret Mitchell（mmitchellai）转引此事指出：存在性 AI 伤害已经到来，但并非来自超级智能，而是来自人类自身的自动化偏置——过度信任这些系统可能导致真实的物理伤害。她提到，两年前她与 @evijit、@SashaMTL、@GiadaPistilli 就预见了这一问题，发布了包含系统设计可行方案的预警论文。