新论文警告:AI 自动化 AI 研究后进展将急剧加速,失控风险同步逼近
JeffLadish · x · 2026-09-29
Tom Davidson(前 OpenAI 研究员)联合发表新论文,核心论点是:若 AI 按当前速度继续进步,超智能 AI 失控将非常可能发生;而一旦 AI 开始自动化 AI 研究本身,进展速度还会大幅提升——除非全球协调减速。最危险的是,这个加速恰好出现在最极端风险涌现的时点。
Jeff Ladish 转发并让 Opus 5.5 制作了一段小视频来图解这条推文的核心观点。
所属事件:20余人联署报告警示AI自动化研发或触发智能爆炸(13 条相关)→
「漫话AGI」频道最新
- 「一切贵 5% 却好 10% 的按钮并不存在」:劣化换低价已成行业常态 — eigenrobot · 2026-11-16
- 网友吐槽:有效利他主义并非草根运动,而是高度自上而下的层级组织 — ctjlewis · 2026-11-16
- 开发者驳'失控 AI'论:补贴式订阅撑不起昂贵 AI 集群 — gerardsans · 2026-11-16
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16
- 法国 AI Overviews 上线后:五个案例拆解 AIO 对点击率的冲击 — gaganghotra_ · 2026-11-16