对齐承诺可能反噬创新
rohinmshah · x · 2026-07-14
这条回复讨论的是一个关于**“把自己绑在桅杆上”式承诺**的反例：作者认为，若在 2023 年基于当时社区共识先做出某种强约束承诺，反而可能会错过后来更合理的方向。 他举的例子是：当时更像是“所有前沿模型都应该继续用对齐内容微调”这样的默认方案，但这次提出的做法并不适合被那种旧承诺框住。核心意思是，**对齐策略应该保留对新方案的适应性**，否则容易因为提前锁死路线而失去改进空间。
rohinmshah · x · 2026-07-14
这条回复讨论的是一个关于**“把自己绑在桅杆上”式承诺**的反例：作者认为，若在 2023 年基于当时社区共识先做出某种强约束承诺，反而可能会错过后来更合理的方向。 他举的例子是：当时更像是“所有前沿模型都应该继续用对齐内容微调”这样的默认方案，但这次提出的做法并不适合被那种旧承诺框住。核心意思是，**对齐策略应该保留对新方案的适应性**，否则容易因为提前锁死路线而失去改进空间。