Gary Marcus 呼吁暂停联网通用 Agent:别再沉迷末日叙事
GaryMarcus · x · 2026-11-17
Gary Marcus 强烈重申其长期观点:AI 领域不应继续聚焦「末日论者」的存在性风险叙事,而应正视通用联网 Agent 正在造成的基础设施与网络安全问题。他此前公开建议召回有互联网访问权限的通用 Agent、要求新模型接受外部科学审查,但认为行业只交出了白宫会议上的「自愿自我监管」,毫无实效。他列举一连串近期事故作为佐证:Amtrak 停运、美联航故障、FAA 地面停飞、银行中断、法国制冷事故、OpenAI/Hugging Face 事件、澳大利亚政府被黑、Binance 等,暗示这些可能与 AI 系统协调失效有关(其因果关联并未证实,属其个人判断)。
「漫话AGI」频道最新
- Paul Christiano:不减速的话一年内有 1/3 概率出现足以颠覆政府的超级智能 — NathanpmYoung · 2026-11-17
- 研究方法论学者 Jas Sekhon 宣布加入 Anthropic,负责 Claude 认知严谨性 — _sholtodouglas · 2026-11-17
- 数据科学岗位较 2023 低点翻倍,UXR 岗位较 2022 暴跌 85% — HamelHusain · 2026-11-17
- 个人 AI 的关键不在模型而在记忆:智能体正在接管你的钱包 — brucemacv · 2026-11-17
- 爆料:菲尔兹奖得主因 Gemini 3 解出其问题而退出数学界 — georgejrjrjr · 2026-11-17
- Apollo 研究:惩罚 agent 间消息训练,其害处或与惩罚 CoT 相当 — amplifiedamp · 2026-11-17