Christiano:数学两月走完十年,ML 或迎智能爆炸
OwainEvans_UK · x · 2026-11-21
转述 Paul Christiano 在 Dwarkesh 播客中的判断,核心框架:
- 数学领域两个月内出现了相当于过去十年的进展;
- 同样的事可能很快发生在机器学习本身;
- 若如此,可能催生能学会任何工作、达到超人水平的 AI 智能体。
Christiano 还给出具体情景:按当前轨迹(若不减速),一年内出现足以推翻政府的超智能的概率约为 1/3。他主张实验室应暂停进一步的算法进展,直到能确保模型权重与研究机密的安全,否则中国可能直接在智能爆炸中途窃取超智能,届时实验室即便发现模型失控也无法再减速。
所属事件:Christiano:AI 数学进展神速,夺权风险或半年内显现(2 条相关)→
「漫话AGI」频道最新
- 被忽视的风险:超级智能在可验证领域超强、在不可验证领域品味极差 — dhadfieldmenell · 2026-11-21
- AI 安全学者克鲁格:担心中国违约为何不先问自己会不会 — DavidSKrueger · 2026-11-21
- 同一天:有人联合 Claude 声称证明黎曼猜想,又有团队发布纯人力证明 — Dr_Atoosa · 2026-11-21
- Hinton 亮相旧金山风险情景研讨,或松口支持暂停前沿 AI — DavidSKrueger · 2026-11-21
- Thinking Machines 发布循环 transformer Inkling 2 Mini,26B 参数问鼎小模型编码榜 — SonglinYang4 · 2026-11-21
- 研究员预言:数学家将像研究天体模拟一样研究 Lean 证明 — mjuric · 2026-11-21