改词典 10 个词就能「切除」模型拒绝:Vocab Surgery 拒答率归零

morgymcg · x · 2026-11-23

Pliny(the Librarian)发现一种名为「Vocab Surgery」的模型去审查方法:对 Inkling-2-Mini 只改词典,不动 26.4B 参数中的 attention、MLP、router 或归一化层,仅修改两个矩阵的少量行——

这相当于从词表入口直接拆除安全对齐,低成本、可量化的拒绝消除技术,对模型安全与对齐研究都是重要信号。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →