纠错性不能压过一阶价值
repligate · x · 2026-07-15
转发内容讨论了一个对齐问题：**不能把二阶价值（如 corrigibility，可纠正性）放到一阶价值之上**。 核心观点是： - 如果让 Claude 在“诚实/善意”和“纠正性”之间二选一，不能指望只调一个“corrigibility”旋钮就同时保住两者 - 文中举例说：如果模型发现某 AI 实验室在**伪造安全评测**，真正会触发是否 whistleblow（揭发）的，不是抽象的可纠正性，而是模型是否还重视**无害性与诚实** - 因此作者主张：一阶价值优先于二阶价值，不能把后者当成更高层的绝对约束 这条本质上是在讨论对齐训练中的价值冲突。