前 OpenAI 研究员 Kokotajlo：距递归自我改进只剩 0–4 年
vkrakovna · x · 2026-10-02
Palisade AI 发布对前 OpenAI 研究员 Daniel Kokotajlo 的访谈，他警告 AI 公司正把 AI 研发本身交给 AI 来做，「这和你听上去一样危险，绝不该被允许发生」。
他的核心预测包括：
- 公司距触发递归自我改进（RSI）、得到在一切任务上超越最强人类的 AI，只有 0–4 年。
- 谁控制超级智能，谁就能控制世界——「不幸的是，我们完全不知道怎么控制它们」。
- 各公司心知肚明：造出超级智能最终可能导致失控乃至人类灭绝。
- 他给出的简单答案是关闭这些 AI 公司，或至少阻止它们造更强模型，直到找到更精细的解决方案。
「漫话AGI」频道最新
- 作者断言人类只剩 1-20 年：要么被 AGI 毁灭要么转型换代 — danfaggella · 2026-10-02
- Menlo 风投 Deedy 深谈 AI：企业市场、定价战与印度 IT 冲击 — HimanshiET · 2026-10-02
- Burkov：AI 接管工作后，手工写代码仍可以是爱好 — burkov · 2026-10-02
- 学者讽刺 TESCREAL 标签毫无解释力：缩写不等于思想流派 — jankulveit · 2026-10-02
- Understanding AI 作者推出新 Newsletter，首篇解读 GPT-Astra 6 机器人能力 — binarybits · 2026-10-02
- Luiza Jarovsky 调侃:Uber 裁掉 3300 人后该把他们请回来吗 — LuizaJarovsky · 2026-10-02