「AI 安全圈都是不会写代码的傻瓜」？长文反驳：MIRI 人才密度堪比曼哈顿计划
algekalipso · x · 2026-09-17
针对近期把 EA 与 AI 安全社群描绘成「不懂工程、不懂 AI」的论调，作者逐点反驳：
- 人才密度极高：AI safety 圈聚集了大量 IMO 奖牌得主、顶级数学家与理论计算机科学家，作者认为这种数学智力密度只有曼哈顿计划可比。
- Nate Soares 例子：加入 MIRI 前是 Google 工程师，一年内自学范畴论、模型论、可计算性、可证明性逻辑等并成为技术议程主笔；Evan Hubinger 佩服他能徒手在纸上构建大型证明，用「脑内类型检查器」。
- Hinton 例子：2024 诺贝尔物理学奖得主、神经网络奠基人，同样认为高级 AI 有失控风险，为此离开 Google 以便自由发声。
- 作者认同「失控风险很严重」，但指出真正值得追问的盲区是意识问题：现象绑定、功能主义假设、道德主体是 agent 还是其内部子系统——他认为这个圈子在这方面「出奇地不好奇」。
结论：可以不同意他们的结论，但「他们技术不行/蠢」不是严肃的解释模型。
「漫话AGI」频道最新
- SBA 新贷款规则让 AI 商业计划书工具作者重新想:AI 到底替代什么 — MshoAlik · 2026-09-17
- 若超对齐无解，法律强制停止或是唯一出路 — jeremiecharris · 2026-09-17
- 别指望瞒住超级智能：Robert Miles 犀利吐槽安全靠保密 — harris_edouard · 2026-09-17
- WSJ 专访辞职引爆争议的 Anthropic「普通研究员」Jacob Coxon — KateClarkTweets · 2026-09-17
- AI 模拟 1930 年人脑,做「时间机器」社会实验 — iyadrahwan · 2026-09-17
- 设计师吐槽：AI 公司自比碟中谍，实际更像王牌大贱谍 — michalmalewicz · 2026-09-17