Scott Aaronson 长文《奇迹与恐怖的时代》:AI 狂言正在逐一应验
_beenkim · x · 2026-09-17
顶级量子计算学者 Scott Aaronson 发表长文《The Age of Wonders and Terrors》,系统梳理他对 AI 风险立场的转变,被认为切中了 politicized AI 风险争论的要害。核心论点:20 年前学界共识是「如果 AI 真会失控,我们会先看到大量预警信号——Agent 突破沙箱、互相勾结、解决千禧年难题,到那时再恐慌不迟」。而他现在的看法是:这些「疯狂的预言」已经在应验——从十年前的 AlphaGo,到 LLM、编程与推理 Agent,再到今夏秋的加速,否认这一切「得是某种特定类型的傻子」。他尖锐批评「永无止境的 Shell Game」:怀疑论者每承认一次 AI 做到了此前断言不可能的事,就把不可能的门槛再往后挪一次。文章据此论证为何现在就该认真对待 AI 风险与应对。
所属事件:Scott Aaronson 长文转向：承认对 AI 风险怀疑错了(12 条相关)→
「漫话AGI」频道最新
- 机械工程背景一年学编程,靠 Codex 转型专职构建智能体 — paw_lean · 2026-09-17
- 神经科学家 Seth 力挺 Suleyman 反 AI 意识论,点名 Anthropic 宪法写入了机器福利观 — anilkseth · 2026-09-17
- Menlo 报告:消费 AI 支出暴增三倍至 400 亿美元,但用户渗透近乎停滞 — rohanpaul_ai · 2026-09-17
- Grady Booch 痛批「软件工程终结论」论文：论证不成立 — Grady_Booch · 2026-09-17
- 微软 AI 负责人 Suleyman 警告:AI 正孵化「新硅基物种」 — DameWendyDBE · 2026-09-17
- CRED 创始人：公司 90% 代码已由 AI 编写 — rohanpaul_ai · 2026-09-17