Dario、马斯克、Sam 齐喊放慢 AI，学者列出落地的三道难题
Yuchenj_UW · x · 2026-09-13
作者感叹 Dario、马斯克和 Sam Altman 如今罕见地一致认为应该放慢 AI 发展。他总体支持引入 METR 这类嵌入式第三方评估机构，但提出三点疑虑：
- 谁来评估评估者？如何保证 METR 这类机构本身公正、专业、无偏见？
- 激励冲突：放慢进展与前沿实验室的利益相悖，尤其是正在筹备 IPO 的公司，如何调和？
- 不可测就不可控：只能对能测量和验证的东西限速——递归自我改进（RSI）到底如何定义和度量？
结论：想法听起来不错，但落地极其困难。
「漫话AGI」频道最新
- 观点：AI 存在性风险正从“遥远想象”变成“迫在眉睫” — EigenGender · 2026-09-13
- 评论：前沿实验室私下问模型「邪恶问题」，自我恐慌成瘾 — tawnniee · 2026-09-13
- Tyler Cowen：数学家得习惯当 AI 的助手，我也终将被 AI 写作超越 — sebkrier · 2026-09-13
- 反对减速派：放慢 AI 只会弊大于利，应尽快抵达富足时代 — kimmonismus · 2026-09-13
- 前 OpenAI 员工：「哪家实验室赢下 AGI」是个过时概念 — GregCook2011 · 2026-09-13
- Katja Grace 质疑：Anthropic 若真重安全，早该推动与中国实验室谈判暂停 — KatjaGrace · 2026-09-13