AI 创业者反思：实验室外无法安全实现递归自我改进

JacquesThibs · x · 2026-08-07

一位 AI 安全领域的创业者分享了对递归自我改进（RSI）竞赛的深刻反思。他在 2024/2025 年间深入调研了初创公司是否有可能在激烈的军备竞赛中安全地进行 RSI。

他的结论是否定的：模型在训练阶段发生的事故表明，真正的对齐关键点完全掌握在拥有算力和数据的大厂内部部署环节。因此，实验室之外的初创公司所做的安全工作对于解决核心错位问题是无关痛痒的，他最终选择停止这方面的创业尝试。