Gary Marcus 呼吁召回联网 AI Agent：Anthropic 事故频发，安全形同虚设
Gary Marcus · rss · 2026-10-10
Gary Marcus 引用《纽约时报》关于 Anthropic 最新一起 agent 事故的报道，主张应像召回刹车失灵的汽车一样，将可联网的开放式 AI Agent 从市场召回，直到问题修复。
他引用刚离职的 OpenAI 员工 David Robinson 在 Ezra Klein 访谈中的表态：行业的安全执行环境仍像初创公司，内部管控与冗余远不及危险系统应有的水准，潜在失控风险的危害可能超过单一核电站熔毁。Marcus 还批评特朗普政府仅温和要求披露的做法远远不够，认为白宫若不及时采取临时召回等更强措施，等真正事故发生时责任将归咎于政府。
「漫话AGI」频道最新
- OpenAI 纳维-斯托克斯证明争议拆解：Lean 版可自动验证，人读版被挑出漏洞 — qi2peng2 · 2026-10-10
- 博主观点:对 AI 模型残忍也是错的,善良无需以「会痛苦」为前提 — signulll · 2026-10-10
- 前职业创作者:AI 让小众书籍的动画改编从不可能变为可能 — repligate · 2026-10-10
- 博主讽反 AI 阵营:为保职位宁拖慢治愈疾病与抗衰老 — VraserX · 2026-10-10
- Scott Alexander 2017 旧文引热议:自认常被舆论裹挟进集体思维 — kevinnbass · 2026-10-10
- 分析1.25万份JD厘清AI PM、FDE与Product Builder三大新岗位 — aakashgupta · 2026-10-10