LessWrong 新文争鸣:对齐工程与失准科学该不该分开做

burny_tech · x · 2026-10-06

Ed Young 在 LessWrong 发表《"Alignment Engineering" vs. "Misalignment Science"》，探讨对齐工作中两类路径的分野：一类是把对齐当作可工程化交付的实践（alignment engineering），另一类是把失准当作需要观察、建模与解释的科学对象（misalignment science）。

文章核心论点：当前对齐工作多借鉴安全工程等成熟学科的工程化框架，但 AI 系统的失准行为尚缺乏足够的实证刻画，先"工程"后"科学"的顺序可能站不住；作者主张应更重视对模型失准现象本身的系统性科学研究。该文在 AI 安全圈引发转发讨论。