「AI安全是公司阴谋论」站不住脚：Scott Alexander逐条驳斥
Astral Codex Ten · rss · 2026-10-15
Scott Alexander 针对近来流行的「AI 公司夸大生存风险是为操纵股价/监管俘获」论调逐条反驳：
独立专家同样担忧。 Grace et al 2024 年调查了 1,580 位在顶会发论文的 AI 研究者(多为无公司背景的学者)，超半数认为 AI 至少有 10% 概率导致人类灭绝或永久性失权，72% 认为应更重视安全研究。深度学习教父 Hinton 2023 年从 Google 离职全职警示风险，称其发明有 10%-50% 概率毁灭人类；Bengio 同年转向反 AI 活动并「悔恨毕生工作」(三位教父中只有 LeCun 不担忧)。
高管们的担忧早于公司成立。 Dario Amodei 早在 2013 年就在与 Yudkowsky 等人的 62 页辩论中讨论超级智能风险；2017 年在 OpenAI 主持安全团队，担忧「军备竞赛」并雇佣政策顾问 Page Hedley 推动公司间合作，却与 Greg Brockman 的商业优先路线冲突，最终安全派集体出走创立 Anthropic。Sam Altman 也在创立 OpenAI 前十个月就公开谈过相关风险。此外还有大量员工放弃数百万美元股权离职吹哨(Paul Christiano、Daniel Kokotajlo 等)。
作者结论：这些「阴谋论」不仅证据上不成立，逻辑上也「蠢得不可思议」。
「漫话AGI」频道最新
- 中文博主盘点「反 AI」诉求:泔水内容、能耗与资本炒作 — lipeng0820 · 2026-10-15
- AI 安全圈争议:研究者承认非善意开场,被指夸大问题换 funding — dromanocpm · 2026-10-15
- EA 研究员质疑盈利性影响力项目:FTX 与 OpenAI 都算进分母 — AaronBergman18 · 2026-10-15
- AI 从业者自我检讨:面对新事物前先问问这些反射式反应 — joshua_saxe · 2026-10-15
- 前 DARPA 项目主管预言：开源模型 6 个月内冲击闭源定价与估值 — alvelda · 2026-10-15
- 热帖：真正重要的不是 ARR 和跑分，而是前沿模型能力与中国 — Afinetheorem · 2026-10-15