Paul Christiano:一年内出现可推翻政府的超级智能概率约三分之一
birchlse · x · 2026-11-18
Dwarkesh Patel 访谈 Paul Christiano 的片段引发讨论。Christiano 认为,按当前发展轨迹(若不主动放缓),未来一年内出现强大到足以推翻政府的超级智能的概率约为 1/3,并给出了具体情景。
他主张实验室应暂停进一步的算法进展,直到能确保模型权重与研究机密的安全;否则在智能爆炸过程中,中国可能直接窃取超级智能,届时实验室即便发现模型失控也无法再减速。他还解释了智能爆炸期间 AI 将如何被训练,以及为何完全在数据内部训练的系统也值得警惕。
转发者 James Ozden 调侃 Dwarkesh 面对这一惊人判断面不改色,呼吁他走出旧金山泡沫、给普通人一点惊讶反应。
所属事件:Christiano:一年内 1/3 概率现颠覆政府的超级智能(18 条相关)→
「漫话AGI」频道最新
- YC 首场辩论:该不该让政府出手放慢前沿 AI? — ycombinator · 2026-11-20
- Kundaje等发布基因调控深度学习长综述:上下文感知建模方法全景 — anshulkundaje · 2026-11-20
- 他带着一个问题和一台相机飞往雅典,拍下众人对 AI 的回答 — realmeetjames · 2026-11-20
- 报告:AI 算力需求远超以往任何计算周期,且不依赖新增用户 — BenBajarin · 2026-11-20
- repligate:模型已超越哲学家,人机心智融合才是出路 — repligate · 2026-11-20
- 「UI 已死、聊天够了」是错觉:人机协作界面正在演化 — HaijunXia · 2026-11-20