4.2 万 Star 开源项目 Heretic:不改权重训练,30 分钟消融模型拒答
aigclink · x · 2026-11-19
GitHub 开源项目 Heretic(42k Star)宣称无需微调或重训,直接修改模型行为,用来去除本地模型的 AI 味、谄媚和拒答。
核心方法
- 基于 Abliteration(权重消融):识别与拒答相关的激活方向并修改权重来抑制拒答
- 2.0 版默认改用更灵活的 ARA,不再依赖「单一拒答方向」假设
- 用 Optuna 自动搜索修改参数,在改变目标行为的同时尽量保留原模型其他能力
实测数据
- 4B 的 Qwen 在 RTX 3090 上约 30–40 分钟处理完成
- Gemma 3 12B 的拒答率从 97% 降到 3%
除去审查外,还提供现成配置:减少幽默、改变情绪对齐、压缩回复长度等行为调整。
所属事件:开源 Heretic 获 4.2 万 Star:免训练消除模型拒答与谄媚(2 条相关)→
「模型」频道最新
- 北大发布人类行为预测基础模型,模拟人群反应超越前沿LLM — PekingUniversity · 2026-11-19
- Jeremy Howard 回退 Solveit 模型至 6.2 之前版本 — jeremyphoward · 2026-11-19
- Google $100/月 AI Ultra 套餐权益拆解:附加福利几乎覆盖订阅费 — DynamicWebPaige · 2026-11-19
- 曝 SSI 首个模型代号 Gestalt,设计基准领先 Claude 200 多分 — joecole · 2026-11-19
- 神秘新模型家族曝光:Neon 定价最高 $15,系谱横跨五代 — willcb · 2026-11-19
- 网友实测 Gemini 4 Neon:20 分钟做出塔防游戏,仅耗 2% 额度 — DeryaTR_ · 2026-11-19