Hinton、Bengio 等 20+ 学者联署警告:AI 自动化研究恐致智能爆炸
The Decoder · rss · 2026-09-29
包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 在内的 20 多位顶尖 AI 研究者联合发出警告:自我改进的 AI 带来的"智能爆炸"迫在眉睫,风险极高。
核心观点:
- AI 系统可能很快实现 AI 研究的全自动化,把原本需要数年的进展压缩到几个月内完成。
- 这种递归式自我加速意味着能力和风险的跳变都可能突然发生,留给人类反应的时间极短。
- 联署者覆盖了对 AI 风险持不同立场的多方学者,显示对自动化 AI 研究风险的担忧正在主流化。
「漫话AGI」频道最新
- 有模型群解猜想，MIRI 十五年的数学路线被重新提起 — inductionheads · 2026-09-29
- So8res:反垄断法或阻碍 AI 公司协同放缓开发 — wfithian · 2026-09-29
- 扎克伯格宣称超级智能将为「所有人」创造重大新机会 — Polymarket · 2026-09-29
- AI 福利之争:批评者称道德主体是人类,研究工具只反映作者偏见 — anshulkundaje · 2026-09-29
- dhh:「Slop」是程序员拒绝接受 AI 的心理安慰毯 — inductionheads · 2026-09-29
- NLP 学者 Yoav Goldberg 招 AI 博士生，但建议除非有免大量算力的课题否则再等等 — yoavgo · 2026-09-29