Scott Alexander 回应「末日论」质疑：AI 不必全能也能失控
slatestarcodex · x · 2026-10-07
Scott Alexander（Astral Codex Ten 作者）在回复 @neilchilson 时澄清「末日论者」的真实预期：
- 对方指责他回避「智能在复杂不可化约系统面前如何迅速变得全能」的质疑。Alexander 指出对方误以为末日论者相信 AI 午夜推理出全部知识、一分钟后造出星际飞船——那是极硬起飞（hard takeoff）的想象，如今连硬起飞信徒都很少了。
- 他给出的图景是：到 2035 年，Claude 10 装进一亿具机器身体，接入全美每个生物实验室，以 OpenAI 级别的速度持续产出革命性生物学实验——风险不需要「全能」，只需规模化嵌入现有系统。
- 他还提到在自己文章「Fifteen Years Of Disagreement」中批评 Steven Pinker 污名化末日论者「声称 AI 全能」。
所属事件:Scott Alexander 与 Neil Chilson 激辩 AI 末日论(4 条相关)→
「漫话AGI」频道最新
- 「水是湿的」版意识难问题：一图理清四大哲学立场 — burny_tech · 2026-10-08
- OpenAI 整数乘法问题 #109 大幅收紧:较原结果改进 2^104 倍 — aran_nayebi · 2026-10-08
- 「这些 EA/AI 安全圈的人没意识到……」:一句话暴露你踩了文献里的老坑 — JacquesThibs · 2026-10-08
- 华裔数学家：AI 自动化数学后，前沿将转向更深的科学提问 — xwang_lk · 2026-10-08
- 可无限复制的 AI 将颠覆「一人一票」:人类时代社会理论失灵 — jacyanthis · 2026-10-08
- 把 AI 身份理解为泛灵论:任何信息块都能「说话」 — jacyanthis · 2026-10-08