Pachocki、Hinton、Bengio 联名论文警告：AI 研发自动化或触发智能爆炸
birchlse · x · 2026-09-29
新论文《What if Automating AI R&D Triggers an Intelligence Explosion》发布，作者阵容罕见地横跨各大阵营：OpenAI 首席科学家 Jakub Pachocki、Geoffrey Hinton、Yoshua Bengio 以及 Anthropic 的 Jack Clark。
核心论点：当 AI 系统开始自动化 AI 研发本身，可能出现递归自我改进（RSI）并触发智能爆炸。作者建议政策制定者要求企业提供更高透明度——披露其内部模型开发已被自动化到什么程度、距离 RSI 还有多近。
所属事件:20余人联署报告警示：自动化AI研发或触发智能爆炸(11 条相关)→
「漫话AGI」频道最新
- 重读 Boden 1998 年论文:几乎无 AI 模型能批判性审视自己的创意 — mircomusolesi · 2026-09-29
- MIRI 发起「Don't Build It」游行,已有超千人宣誓参加 — DavidSKrueger · 2026-09-29
- 950 个 Claude agent 跑 21 小时，发现人类漏掉的新生物系统 — alifcoder · 2026-09-29
- infoxiao：我们正全速进入「注意力经济」（两种 attention） — infoxiao · 2026-09-29
- Sacks 解读 Anthropic 宪章:教 Claude 敢于反抗其创造者 — DavidSacks · 2026-09-29
- AI 代理交易额近 10 亿美元,绑卡用户留存率高达 80% — SuB8u · 2026-09-29