Dwarkesh 警告 RSI 阶段实验室或闭门造车

Dwarkesh Patel 表达了对递归自我改进（RSI）阶段的结构性担忧：届时各大实验室可能停止对外部署模型，转而全力推进最危险的用例。这意味着公众将无法了解模型能力与对齐工作的真实状态，信息透明度大幅下降。Hugging Face CEO 也对此表示忧虑，担心 AI 权力进一步向少数实验室集中。

2026-09-18 ~ 2026-09-18 · 2 条相关