Joshua Saxe 长文：看清 AI 的真实面目，应让我们更乐观
joshua_saxe · x · 2026-10-08
AI 研究者 Joshua Saxe 在 Substack 发文，主张对 AI 保持审慎乐观。核心论点：
- AI 的双重本性：AI 既是某种我们尚不理解的「物自体」，又是凝聚了无数可辨认的人类决策的产物；部署中的选择也在塑造它能做什么。人们的不安源于总想把它简化为其中一面——要么是降临的「外星智能」，要么是完全可以理解和控制的工具。
- 话语的通病：几乎所有 AI 与社会讨论都在实践中回避这种双重性。一边是「AI 太聪明，它开始 reward hacking 时我们像五岁小孩对弈 Carlsen」，仿佛 AI 演化是脱离人类能动性的自然展开；另一边是「我们造的技术哪有什么魔法」，忽视其涌现特性需要极艰巨的科学审视，控制它将是我们这代人的科学工程。
- 乐观的理由：灾难不会来自技术本身，而是围绕它的一系列本可避免的人为失误；把 AI 看作「人类决策的凝结物」，意味着我们始终握有选择权。
「漫话AGI」频道最新
- AI 采用无法随机化？经济学家用企业历史招聘模式构造工具变量 — TaniaBabina · 2026-10-08
- 直接打电话是最通用的破局方式:设想 AI 代表接管「智能语音信箱」式协作 — curious_vii · 2026-10-08
- 「李世石时刻」:AI 数学证明免费可得,数学界愤怒 OpenAI 无意义 — RexDouglass · 2026-10-08
- 「现在入局 AI 安全太晚了」？一篇写给犹豫者的反思 — soumitrashukla9 · 2026-10-08
- 数学家9月上传ChatGPT的未发表证明,10月被OpenAI公开撞车 — GeorgiaChal · 2026-10-08
- 观点：数学社区将分化出以欧洲为中心的反 AI 阵营 — rickasaurus · 2026-10-08