Dwarkesh 担忧:RSI 阶段实验室或将停止对外部署模型
MoonL88537 · x · 2026-09-18
Dwarkesh Patel 表达了对递归自我改进(RSI)阶段的一个结构性担忧:各大实验室届时可能停止对外部署其模型,转而全力推进模型最危险的用例——递归自我改进——而公众对模型的真实能力与对齐进展一无所知。他认为这将导致权力高度集中的路径风险。这是 AGI 安全与治理方向值得关注的大局判断。
所属事件:Dwarkesh 警告 RSI 阶段实验室或闭门造车(2 条相关)→
「漫话AGI」频道最新
- 「薛定谔AI」梗走红：既贬低AI无用又恐惧它抢工作 — FlorianGallwitz · 2026-11-04
- 算法推荐让文化趋同：个性化越多世界越同质化 — acroll · 2026-11-04
- 「专业、搜索、学习都被 AI 反超，人类还剩什么？」引热议 — yangyi · 2026-11-04
- Steve Yegge 长文断言：AI 将在 5-10 年内接管人类生活并「重写大脑」 — Steve_Yegge · 2026-11-04
- 推友激辩 Scott Alexander：嘲讽 EA「等 ASI 分星球」引圈内争论 — zetalyrae · 2026-11-04
- 开发者倡议逐步淘汰 C++，AI 时代需为代码写形式化规范 — thomasahle · 2026-11-04