前 OpenAI 研究者 Scott Aaronson:AI 毁灭与救世都是现实可能
Tsubame33785667 · x · 2026-10-26
这条日文长帖转述了前 OpenAI 研究者 Scott Aaronson 关于 AI 前景的访谈观点：
- 不要相信「AI 全是骗局、只是概率鹦鹉」的说法，那种看法过于冷嘲。当前 AI 的问题不是不工作，而是它真的有效——拿给二三十年前的人看，所有人都会承认这是智能；如今只是因为习以为常，才争论「这算不算智能」。
- 创造一种全新形态的智能本质上不是安全的事。就像养育孩子并不总是安全，但孩子与我们生物学相近，而这次诞生的智能是地球史上前所未有、与人类毫无生物学共通点的存在。
- 结局双向皆可想象：AI 可能成为人类求助时真正现身的「慈悲之神」，带来救世主式的时代；也可能走向完全相反的毁灭性剧本。
- 以前谈这些会被笑「科幻读太多」，但用他引用的话说：「最好习惯谈论科幻，因为我们现在已经生活在科幻世界里。」
所属事件:Aaronson：AI 并非概率鹦鹉，风险与机遇皆真实(2 条相关)→
「漫话AGI」频道最新
- Stephen Casper 播客畅谈：AI 会否成为网络空间的「寄生(peer)物种」 — StephenLCasper · 2026-10-26
- EMNLP 主题演讲背后：用语言模型「模拟学习者」生成儿童语言习得新假设 — najoungkim · 2026-10-26
- 新研究：AI 智能体谈判能力差，还会故意违约 — menhguin · 2026-10-26
- NBER 研究：仅 2.9% 美国人为 AI 付费，留存率低至 20% — avicgoldfarb · 2026-10-26
- AI 研究员曾预测机器人 2034 年才能跑赢人类，今年已被连续打脸 — ben_j_todd · 2026-10-26
- 别再拿「生物学」当医药研发的代名词：一位 AI 从业者的吐槽 — KevinKaichuang · 2026-10-26