学者炮轰 AI Safety 已沦为大厂产品工作，学界仍在徒劳跟进

j_foerst · x · 2026-11-03

从事 AGI 研究的 jfoerst 转发并评论 LessWrong 上一篇反思 AI alignment 的回顾文章《What just happened? A retrospective of AI alignment》。他的核心观点是：技术上的「AI 安全」工作实质上早已变成产品工作，大大加速并壮大了各大实验室（长期上削弱了欧洲乃至人类的主导权），而 alignment 社区内部现在才开始正视这一整体判断。他进一步质问：学术界、非营利组织、开源社区和政府（尤其英国和欧洲其他国家）为什么还要继续配合这种模式，并附投票征集原因。这反映了 alignment 社区对自身与实验室共生关系的深刻反思。