学术界研究者痛批「AI 安全」工作实为加速大厂的产品工程

j_foerst · x · 2026-11-03

AI 研究者 jfoerst 转发并 endorsing LessWrong 上的一篇对齐领域反思文章《What just happened? A retrospective of AI alignment》。他的核心观点:技术上的「AI 安全」工作显然一直是产品工作,实质上大幅加速并壮大了大型实验室,长期来看反而削弱了欧洲(乃至人类)的自主性。他质问学术界、非营利组织、开源社区和政府(尤其英国与欧洲其他地区)为什么还在继续做这类工作,并 @ 了英国 AI 安全研究所(AISI)。这代表对齐社区内部正在兴起的自我批判浪潮:安全研究与大厂利益之间的边界问题。