谁在认真对待 AI 存亡风险:Amodei 阵营与 Zuckerberg 阵营的真实分歧
trevposts · x · 2026-09-22
作者分析 AI 高管在『是否应放慢发展以规避存在性风险』上的分裂:
- Amodei、Altman、Hassabis、Musk 曾(虽不一致地)表示需放慢以规避风险;Zuckerberg、Huang 和几乎所有 VC 则斥之为无稽之谈。
- 作者反驳『第一阵营靠风险叙事营销』的说法:若风险是为了炒作,为何 Zuckerberg、Huang 要否认?若是为了监管俘获,为何不在前沿的 Hassabis、Musk 也在谈?
- 真正区别是时间投入:第一阵营早在执掌大公司前就认真思考这些风险十余年,这些担忧自图灵时代就有,并非营销或政策话术。而第二阵营只是表面参与,担心的是风险叙事损害 AI 热潮的巨额利润。
结论:在未能解决对齐问题前,公司应『就是不造超级智能』——至少不要用当前技术路线和现有理解去造。
「漫话AGI」频道最新
- Google 与 DeepMind 组建 AI 经济学团队,聚焦 AGI 经济影响研究 — soumitrashukla9 · 2026-09-22
- Halvar Flake 演讲:计算机科学正从精确学科变成概率学科 — soumitrashukla9 · 2026-09-22
- Epoch AI 研究员:2026 年 AI 能力首次对世界产生实质影响 — Jsevillamol · 2026-09-22
- 学界大佬警告:灌水论文留公开记录,恐毁研究生涯 — cocoweixu · 2026-09-22
- Josh Rosen 提出构建 System 1.5:用确定性架构连接快慢模型 — iamrobotbear · 2026-09-22
- AI 圈争论:大模型做不了递归自我改进? — ctjlewis · 2026-09-22