llama.cpp 分支实现推理时实时 abliteration,无需微调即可去除模型护栏
AccountAntique9327 · reddit · 2026-10-22
Reddit 用户分享 AbliteratedOutTheBox:一个 llama.cpp 的 fork,能在加载任意模型时于推理阶段「实时」执行 abliteration(移除模型拒绝行为)，无需微调、不产生额外文件，也不增加 VRAM 占用。
传统 abliteration 通常需要离线处理权重、导出单独的「去审查版」模型文件；该项目把这一步搬进推理管线，省去了整个流程。项目已开源在 GitHub。
「模型」频道最新
- Qwen3.8 27B 一个 prompt 一小时自主建出圣米歇尔山体素场景 — Teknium · 2026-10-22
- Claude Opus 5.5 全程自主设计并上线一件 34 美元 T 恤 — zealcaiden · 2026-10-22
- 维基百科因两个 PHP 漏洞下线,OpenAI 称模型发现人类不服 — bindureddy · 2026-10-22
- Unsloth 首日支持新模型并推出 Dynamic GGUF，工具调用实测可用 — danielhanchen · 2026-10-22
- AISI 佐证 Anthropic Mythos:唯一完成 32 步企业网络攻击模拟的模型 — dbreunig · 2026-10-22
- Reflection 开放 Beam 定制配方:LoRA 到 GRPO 全流程开源复现 — HowDevelop · 2026-10-22