Bengio 转发放慢 AI 呼吁:RSI 红线已成计划,Claude 已承担 Anthropic 26% 研发
Yoshua_Bengio · x · 2026-10-10
图灵奖得主 Yoshua Bengio 转发了深度学习先驱 Corentin Segerie 的长文,后者公开忏悔「没有更早呼吁立即放慢 AI」是人生错误之一。该帖针对 OpenAI 发布内部前沿模型产出的新数学成果一事发出警告:如果 OpenAI 在生物学领域取得类似突破,后果可能非常严重,并称 AI×生物进展可能导致 10 亿人死亡。
关键论点:
- Claude 已承担 Anthropic 约 26% 的研发工作,年初还几乎为零,作者认为递归自我改进(RSI)可以说已经启动——「红线已变成计划」,而 Bengio 曾表示 RSI 应属非法。
- 同时推广 Team Human 运动:由粉丝总量超 3 亿的 YouTuber 等创作者联合发起,要求通过国际协议实现 AI 全球性放慢,在科学界确认可控之前不建造超越人类智能的 AI,请愿书将由 Center for AI Safety 递交给华盛顿与布鲁塞尔的立法者。
「漫话AGI」频道最新
- 从志愿者到顶会博士:他对 Sasha Rush 说的一段AI圈成长故事 — Jeande_d · 2026-10-10
- 数学家担忧「问题被解决」定义进步,AI 时代这一隐忧成真 — _onionesque · 2026-10-10
- Sayash Kapoor:AI 超人能力不会自动迁移到所有任务 — sayashk · 2026-10-10
- 「智能数据库不保存数据」？AI记忆持久性之争再起 — TinfoilTricorn · 2026-10-10
- COLM 最佳论文:Int-Bench 揭示 LLM 助手过早、过频干预有碍学习 — maxhkw · 2026-10-10
- Anthropic AI 智能体在美国国务院网站误提交 20 份签证申请 — Simon Willison · 2026-10-10