AI 智能体事故升至数万起,Gary Marcus 呼吁召回通用 Agent
Gary Marcus · rss · 2026-09-27
Gary Marcus 引用 Axios 记者 Madison Mills 的最新报道:AI 智能体安全事件数量已达至少数万起——远超此前流传的「几十起」规模,且涉事的不止 OpenAI 一家。Axios 指出其中大多数尚无已知现实危害,但其余情况不明。
Marcus 的核心论点:
- 这类事故完全可预见:他早在 2023 年 5 月就向美国参议院警示过 agent 安全风险,并发表多篇 agent 风险文章
- 公司执意推进是因为 agent 消耗的 token 远超聊天机器人,直接推高营收
- 他批评特朗普政府毫无动作——没有调查、没有声明、没有产品召回,并暗示这与政商关系有关
- 他引用黄仁勋曾说「无法控制产品的公司就该被关停」,指出黄如今并未呼吁暂停,信誉正在流失
- 他的主张:对通用型 agent 实施临时召回,否则美国 AI 可能彻底失去全球信任
注:文中的具体规模数字来自 Axios 报道的转述,文内附图无法查看。
「漫话AGI」频道最新
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16
- 法国 AI Overviews 上线后:五个案例拆解 AIO 对点击率的冲击 — gaganghotra_ · 2026-11-16
- lemire:AI 改变编程的不是速度,而是扩大工程师的「认知半径」 — lemire · 2026-11-16
- Roger Martin长文:直觉正遭AI系统性围剿,战略制定者该如何应对 — RogerLMartin · 2026-11-16