专题 · FULL STORY

一篇AI风险特稿掀起的叙事之争

记者 Hayden Field 发表长篇特稿《预见此事的人》，聚焦多年警告失控 AI 风险的研究者，引发「谁算安全派」的争议。次日多位 AI 研究者集中炮轰其「失控智能体」叙事框架，讨论随后在社区持续发酵。

2026-09-17 ~ 2026-09-18 · 2 集 · 12 条

第 1 集 · AI 风险预警者特稿引热议，谁算安全派起争议(2026-09-17,3 条)

记者 Hayden Field 发布长篇特稿《预见此事的人》，聚焦多年来持续警告失控 AI 风险的研究者，写作期间恰逢 OpenAI 与 Hugging Face 遭攻击事件。Grady Booch 等人指出文章名单漏掉了 Gebru、Mitchell、Bender、Marcus 等曾被点名批评的学者；Tilman Bayer 回应称，这些学者各自警告的内容其实并不相同，引发了关于'谁才算 AI 安全预警者'的争论。

第 2 集 · 研究者集中炮轰「失控智能体」叙事：本质是不负责任的软件(2026-09-18,9 条)

9 月 18 日，围绕记者 Hayden Field 一篇涉及 Hugging Face/OpenAI 相关 AI 事故的报道，多位 AI 研究者集中批评行业流行的「rogue agents（失控智能体）」叙事。争论在 Gary Marcus 与 Margaret Mitchell 的连发帖子中形成两条主要论线，Mozilla 0din 负责人 Marco Figueroa 从漏洞研究视角加入质疑。各方共识是：问题的本质是被不负责任开发和运营的软件，而非神秘的「失控」。

已确认

  • Gary Marcus 转引 Neil Turkewitz 的观点并附议：AI 行业热衷「失控智能体」的说法，实质掩盖了问题本质——讨论的只是被不负责任地开发和运营的软件，却好像没人该为此负责。他还引用英国工党议员 Chi Onwurah 的硬件工程师梗加以讽刺。
  • 网友 NLseul 用「忘拉手刹导致汽车溜进邻居家窗户」的梗图呼应 Marcus：同一件事用行业话术就成了「一辆失控汽车突破 confinement，试图渗透附近住所」。
  • Hayden Field 与 Heidy Khlaaf、Timnit Gebru、Emily Bender、Gary Marcus 等多位研究者就 AI 事故的报道框架展开争论，争议焦点涉及某起 Hugging Face/OpenAI 相关事件的表述方式。
  • Margaret Mitchell 指出 Khlaaf 真正在意的可能是「rogue（失控）」一词本身：它暗示这些系统并非被直接设计成会做那些事，从而掩盖设计责任；记者回应称文章通篇已说明此类事件并非孤例。
  • Mozilla 0din 生成式 AI 零日漏洞项目负责人 Marco Figueroa 撰文批评 OpenAI 公布的六项训练 bug（内部训练与评估中的 misalignment 案例）的呈现方式：他认为这更像一份带 URL 的「实验记录」，而非需要上升到「失控」层面的安全事件。
  • 一位作者以航空业类比抨击 AI 安全话语：实验模型因测试设计疏漏入侵联网计算机就被推出「AI 会杀死我们所有人」的结论，等于飞机制造商因试验机设计缺陷坠毁就断言所有量产飞机都会坠毁，而两种叙事最后都滑向「需要威权式全球政府来监管」的主张。

为什么重要

  • Mitchell 进一步提出「俄狄浦斯效应 + 现实扭曲」的观察：业内因恐惧 AI 脱离人类直接控制，反而造出了本身就缺乏直接控制、也不监控其行为的智能体——对失控的恐惧成了自我实现的预言。
  • 这场争论的核心不在某个具体事故，而在公共讨论用何种语言描述 AI 失败：将其框定为「智能体失控」会系统性稀释开发者与运营方的问责，这也是 Gebru、Bender、Khlaaf 等长期关注 AI 伦理与安全的研究者此次集中发声的原因。Figueroa 从漏洞研究专业视角、航空类比帖从跨行业类比视角的补充，显示这一质疑已超出伦理学界，延伸至安全从业者与更广泛公众对 misalignment 案例被夸大表述的不满。