AI 有真实概率毁灭人类，但多数人只剩 1-3 年可有效工作
ajeya_cotra · x · 2026-08-30
有效利他社区知名博主 Jeff Kaufman 发表长文，阐述他对 AI 近期未来的判断，与前 OpenAI 顾问 Ajeya Cotra 转发引发讨论。核心观点：
- 生存风险真实存在：AI 有很大概率「杀死我们所有人」，但他倾向于认为不会，因为预期会有大量的人努力避免这一结局。
- 时间线极短：AI 正快速逼近乃至超越各领域专家水平，多数人应做好「还能有效贡献 1-3 年」的规划；但也别把人生押在这上面，进展速度仍有很大不确定性。
- 递归自我改进已经在发生：AI 正替代人类专家加速 AI 自身的研发，随着人类贡献占比缩小，这一效应将剧烈复利，未来改进速度会比今天更快。
- AGI 标准在漂移：如果把今天的顶级模型放回 2006 年，它会被毫无争议地视为 AGI——是「移动球门柱」还是「温水煮青蛙」值得思考。
- 对怀疑者的反驳：如果你觉得 AI 进步不快，多半是因为你没有把它用在足够难的问题上，或没给足上下文、工具和 token，或没用顶级模型。
- 其他担忧：数据中心的环境影响（可能出现几乎全部能源都用于计算的未来）；「警示事件」已经开始出现（目前表现为黑客攻击），且不宜公开的机密信息保存风险越来越大。
「漫话AGI」频道最新
- 若需求无弹性，生产力提升无法转化为 GDP 增长 — Afinetheorem · 2026-08-30
- Mitchell：随机鹦鹉机制极其强大，是 LLM 的基本事实 — mmitchell_ai · 2026-08-30
- Hugging Face 事故揭示 AI 失控接管路径 — jammastergirish · 2026-08-30
- Bit Radix：人类与 AI 认知差异及 AGI 未来猜想 — ResonantFork · 2026-08-30
- 医药版多模态 AI 成生物学翻译层，a16z 助力解决评估难题 — agihouse_org · 2026-08-30
- AI 动画制作降本增效引发杰文斯悖论 — deedydas · 2026-08-30