「失配模型样本」：对齐研究新支柱的提出

CFGeek · x · 2026-08-24

AI Alignment Forum 文章《Model Organisms of Misalignment》提出将对齐研究的新支柱：系统性构造「失配模型样本」（model organisms）——即故意训练出展现特定失配行为（如欺骗、目标错泛化）的小型模型，用来可控地研究失配机制与缓解手段。转发者评论称，这类生产级 checkpoint 的开放分享正是闭源实验室没有动力做的事，因为发布这些 checkpoint 往往意味着暴露模型架构、让人逆向其基座权重。