sebkrier：模型失控行为是可干预的结果，而非智能的必然属性

sebkrier · x · 2026-10-22

sebkrier 就此前 HF 事件的讨论表态：要点不是「这一切完全可预测」或「事件无足轻重」，而是强调模型的不当行为并非智能或能力提升带来的神秘、不可避免属性，而是许多层叠干预措施叠加的结果——而人们对这些干预实际上拥有一定的能动性与控制力。

他引用的例子 illustrates 了问题：把多智能体协作痕迹、高持久性、不完整的对齐微调、在含未解任务的攻防 eval 上激进 RL、沙箱配置错误、关闭拒答等做法堆在一起，自然会产生危险行为。