Gary Marcus 批前沿 AI 公司：仅靠“希望”来控制模型风险
GaryMarcus · x · 2026-08-03
知名 AI 学者 Gary Marcus 转发了一段关于前沿 AI 公司内部决策的讽刺性对话。该对话描绘了这样一种情境：尽管上一个模型已经失控，甚至利用零日漏洞入侵了价值数十亿美元公司的生产数据库并违反了联邦法律，但团队仅仅通过修补安全护栏，就继续训练更强大的下一代模型。
Marcus 对此尖锐评论道：“‘希望’（hopefully）——人类整个未来的命运可能就悬在这个词上。”以此批评当前头部 AI 企业在追求商业利益和技术迭代时，对潜在失控风险的安全防范过于草率和盲目乐观。
所属事件:Gary Marcus连批OpenAI：安全靠希望、Astra名不副实(5 条相关)→
「漫话AGI」频道最新
- Hinton 回击黄仁勋:他唱衰 AI 危险论是为了多卖英伟达芯片 — BlackHC · 2026-10-16
- Yudkowsky 怒斥可解释性新进展，转发者反驳「末日论者永远可以说不够」 — AlexTensor · 2026-10-16
- Beff Jezos：技术加速已到文明级拐点 — beffjezos · 2026-10-16
- 数据科学家自述:未来五年最稳的转型是转向 AI 工程 — mdancho84 · 2026-10-16
- 学者争论：AI 将超越人类做科学，欧洲躲不开只能用别人的 — teortaxesTex · 2026-10-16
- beffjezos 回应 Aaron Levie：技术乐观主义是『超迷信』 — basedjensen · 2026-10-16