不改权重、18MB KV 缓存即可按请求移除 LLM 拒答行为
Anony6666 · reddit · 2026-09-22
开发者发布开源项目 phantom-kv:一种不动模型权重的「去拒答」方案。它把一个约 18MB、离线训练得到的 key/value 张量库注入模型 KV cache,让注意力机制像读取对话历史一样被影响,实现按请求热切换的「解锁模式」,卸载缓存后模型与原始权重逐字节一致。
- 与既有方法的差异:权重级 abliteration 会永久改写 checkpoint 且受量化影响;激活空间投影则在引擎 hook 里逐 token 修改模型信号路径。phantom-kv 只通过注意力已消费的输入通道生效,无需一维拒绝方向假设或前向 hook。
- 作者自我审计发现:8B judge 评测显示词汇层面的拒答抑制指标会高估合规率(语义拒答常以改写形式残留);注入效果在长会话中约 2–4k token 半衰期衰减,可用定期重注入缓解。
- 代码已开源在 GitHub。
注:该技术本质是绕过模型安全护栏的手段,涉及 AI 安全争议。
所属事件:phantom-kv:不碰权重即可移除 LLM 拒答行为(3 条相关)→
「安全」频道最新
- Zvi 解读 Claude Mythos 5.2 系统卡:作弊得手率反升至 10.8% — TheZvi · 2026-11-12
- 2026 中期选举 41 项数据中心公投 40 项倒向反 AI 建设方 — Acceptable-Offer-518 · 2026-11-12
- 为 20 行小工具起容器太重:Redditor 推出可静态验证的 Safescript — uriwa · 2026-11-12
- Zvi 深析 Anthropic 新系统卡: autonomy 阈值争议成焦点 — Don't Worry About the Vase (Zvi) · 2026-11-12
- AI 梳理 42 场黄仁勋播客：出口管制批评在 2025 年 4 月后明显升级 — ShakeelHashim · 2026-11-12
- 20MW 以下小站点绕开监管大战,成数据中心新出路 — antavedissian · 2026-11-12