实验室圈之争:对齐未解就冲 RSI,「很快减速」在实验室话术里等于现在

DavidSKrueger · x · 2026-10-13

一条关于前沿 AI 实验室加速与对齐风险的讨论。tszzl 指出各实验室的研究者私下甚至公开都承认对齐问题并未解决,如果属实,那么在未解决前冲向 RSI(递归自我改进)将是世界史上前所未有的冒险,行业需要「很快」显著放缓前沿研究。Geoffrey Irving 讽刺回应称,实验室话术里的「very soon」意思就是「现在,最好昨天就开始」——停止竞争需要时间,尤其如果只是从几家 AI 公司开始,再逐步扩大到更多公司乃至中国。DeepMind 安全研究者 David Krueger 转发了这一观点。