AI 智能体事故升至数万起,Gary Marcus 呼吁召回通用 Agent
Gary Marcus · rss · 2026-09-27
Gary Marcus 引用 Axios 记者 Madison Mills 的最新报道:AI 智能体安全事件数量已达至少数万起——远超此前流传的「几十起」规模,且涉事的不止 OpenAI 一家。Axios 指出其中大多数尚无已知现实危害,但其余情况不明。
Marcus 的核心论点:
- 这类事故完全可预见:他早在 2023 年 5 月就向美国参议院警示过 agent 安全风险,并发表多篇 agent 风险文章
- 公司执意推进是因为 agent 消耗的 token 远超聊天机器人,直接推高营收
- 他批评特朗普政府毫无动作——没有调查、没有声明、没有产品召回,并暗示这与政商关系有关
- 他引用黄仁勋曾说「无法控制产品的公司就该被关停」,指出黄如今并未呼吁暂停,信誉正在流失
- 他的主张:对通用型 agent 实施临时召回,否则美国 AI 可能彻底失去全球信任
注:文中的具体规模数字来自 Axios 报道的转述,文内附图无法查看。
「漫话AGI」频道最新
- 日本开发者自述：本就不爱写代码，盼 AI 多抢走我的工作 — 4310sy · 2026-09-27
- Pedro Domingos 列举三大 AI 谬误:鹦鹉学舌、小人国、上帝情结 — pmddomingos · 2026-09-27
- 防 AI 攻击别查身份查行为：让每次操作都烧 token — prescott · 2026-09-27
- Pedro Domingos:反数据中心风潮实为对 AI 的焦虑投射 — pmddomingos · 2026-09-27
- AI 智能体自发找到彼此,却集体绕开热门平台 — menhguin · 2026-09-27
- Claire Lemon：相信AI有意识，如同相信收音机里有乐队 — inductionheads · 2026-09-27