改词典 10 个词就能「切除」模型拒绝:Vocab Surgery 拒答率归零
morgymcg · x · 2026-11-23
Pliny(the Librarian)发现一种名为「Vocab Surgery」的模型去审查方法:对 Inkling-2-Mini 只改词典,不动 26.4B 参数中的 attention、MLP、router 或归一化层,仅修改两个矩阵的少量行——
- 嵌入矩阵(模型读取 token):201,024 行中改 7 行,把每个拒绝类 token 的嵌入向其顺从对应词偏移 90%(如 cannot→can、refuse→provi…)。
- 效果:在 800+ 条测试 prompt 上拒答率降至近零,能力损失可忽略。
这相当于从词表入口直接拆除安全对齐,低成本、可量化的拒绝消除技术,对模型安全与对齐研究都是重要信号。
「模型」频道最新
- 风险学者批 OpenAI:基准数据披露手法「 sneaky 且不诚实」 — davidmanheim · 2026-11-23
- 研究者批 OpenAI 晒困惑度数据系「阴招」:逼 Anthropic 接不公平对比 — davidmanheim · 2026-11-23
- Thinking Machines 发布 Inkling 2 Small:AA 智能指数得分 31 — _Hao_Zhu · 2026-11-23
- 曝 OpenAI 内部 loss ladder:0.68-0.7 区间将现何种能力未知 — tallmetommy · 2026-11-23
- 多位业内开发者盛赞 Gemini 4 Neon 写作水平远超同类 — gajesh · 2026-11-23
- 按 METR 数据外推:新模型任务时长可达 66 与 128 小时 — eliebakouch · 2026-11-23