phantom-kv:不碰权重即可移除 LLM 拒答行为
开发者 lordx64 发布开源项目 phantom-kv,一种不修改模型权重的「去拒答」方案。其核心思路是离线训练一个约 18MB 的小型 key/value 张量库,推理时直接注入模型的 KV cache,通过注意力机制生效,实现按请求热插拔地移除大语言模型的拒答行为。
2026-09-22 ~ 2026-09-22 · 3 条相关
- 不改权重、18MB KV 缓存即可按请求移除 LLM 拒答行为 — Anony6666 · 2026-09-22
- phantom-kv:不改权重、靠 KV 缓存热插拔移除模型拒答 — cyb3rops · 2026-09-22
另有 1 条近重复转述:Anony6666