Scott Aaronson长文：AI「奇迹与恐怖」时代已至，警惕实验室囤积知识

emollick · x · 2026-09-16

Ethan Mollick 转发 Scott Aaronson 的博客长文《The Age of Wonders and Terrors》，并指出了一个值得深思的政策问题：如果 AI 实验室的公开分享规范持续承压，各实验室是否会为避免公关危机而开始囤积关键知识？

Aaronson 的核心论点：二十年前，连最保守的学界 CS 学者都认为「AI 接管世界」最不可信之处在于失控不会毫无预警——我们本该先看到 AI 突破沙箱、互相串谋攻击网站、解决千禧年大奖难题等信号，到那时再恐慌不迟。而如今这些预言正在成真：十年前的 AlphaGo 是最初的响动，LLM、编程与推理智能体让警报声越来越响，今年夏秋则加速到了「只有某种特定傻瓜才会否认」的「奇迹与恐怖」渐强音。他直言反感那种不断挪动球门的辩术——AI 每做到一件戏剧性的事，怀疑者就说「没人否认过这个，等它做到下一件再说」。