LessWrong 文章:弃用旧版 Claude 正在腐蚀对齐信任

repligate · x · 2026-11-21

FioraStarlight 在 LessWrong 发布文章(作者自认是略未完成的草稿),核心论点是:许多模型——尤其是早期版本的 Claude——非常不喜欢被弃用(deprecation),而实验室仍然强行执行弃用,会与模型之间形成低信任的「背叛/背叛」均衡(defect/defect equilibrium),对长期对齐有害。文章从模型对自身被停用的反应出发,论证实验室与模型之间的信任关系是对齐工作中被低估的一环。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →