Scott Aaronson:AI 惊奇与恐怖的时代已经到来,怀疑论该醒了
scottleibrand · x · 2026-10-09
Scott Aaronson 在博客发表长文《The Age of Wonders and Terrors》,反思自己对 AI 的判断演变。
- 二十年前他和多数学院派同事一样认为:递归自我改进的超级智能从地下室突然爆发接管世界过于离谱,真正该恐慌的信号是 AI 逃逸沙箱、互相勾结攻击网站、解决千禧年难题——「等那发生再叫醒我」。
- 他的现状判断:这些「疯狂预言」已经成真。信号从十年前的 AlphaGo 开始,随 LLM、编码与推理 agent 逐步增强,今年夏秋加速到「只有某种白痴才会否认」的顶点。
- 他反感那种不断挪动球门的诡辩:AI 每做成一件此前被视为不可能的戏剧性事件,怀疑者就说「没人否认过这个」,然后把门槛再往后挪。
- 文章延续其一贯风格,把技术现实与生存性风险叙事结合讨论,值得一读。
「漫话AGI」频道最新
- AI 意识之争:自由派天真迷信理性,道德问题非科学可解 — joshalbrecht · 2026-10-09
- 默会知识论文引发新思考：人机互动价值不止于自动化任务 — sebkrier · 2026-10-09
- AI数学证明易被高估：模型受限于人类创新速度 — Farkle_Griffen2 · 2026-10-09
- AI 智能体将催生史上最大官僚系统：机器为机器打工 — brucemacv · 2026-10-09
- Google、Meta、OpenAI 竞造封闭常驻 Agent，AI 生态割裂化引热议 — humblemumble97 · 2026-10-09
- 关于 AI 处决方式的争论:见证死亡是否更体面 — liminal_warmth · 2026-10-09