菲尔兹奖得主 Gowers 长文：我无法断言 AI 灭绝风险接近零
michael_nielsen · x · 2026-10-16
菲尔兹奖得主 Timothy Gowers 发表长文《我们应该有多担心 AI 的灭绝风险？》，讲述自己在 AI x-risk 议题上的挣扎与判断。
背景要点：
- 菲尔兹奖得主 Jacob Tsimerman 在领奖后宣布放弃数学研究、转向 AI 安全，并创立 Mathematical AI Safety Institute（MAISI），Gowers 应邀加入其科学顾问委员会。
- Gowers 表示自己并非因为深信 x-risk 而加入，而是因为"不知道该有多担心"——鉴于赌注太高，希望更多人认真思考这个问题。
- 他认同 Tsimerman 的判断：国际条约层面的放缓对 AI 安全的短期影响远大于数学家的理论工作，但"需要全员上阵"——如果数学家能将 x-risk 概率降低 0.1%，期望拯救的生命数也非常可观。
- 他认为数学家的训练使他们很适合为讨论 AI 安全提供理论基础，因此呼吁数学界认真对待这个问题。
「漫话AGI」频道最新
- MIT 研究:AI 解理论题正确率两年从 2% 升至 35% — mikeflache · 2026-10-16
- Narayanan 撰文:AI 不必只做自动化,增强人类是另一条路 — mikeflache · 2026-10-16
- Bindu Reddy 列举超智能已到来：LLM、机器人、自改进 agent — bindureddy · 2026-10-16
- 分析师 Bajarin：盼泡沫破裂者只会助长巨头进一步集权 — BenBajarin · 2026-10-16
- Dean W. Ball 播客谈机制可解释性与「生长之物」的美 — deanwball · 2026-10-16
- 礼来减肥药 Foundayo 获欧洲监管支持，临床减重最高 11% — Polymarket · 2026-10-16