Gemma 4 31B 被正交消融去审查,量化后 11.9GB 可本地跑

alexcovo_eth · x · 2026-11-10

Hugging Face 上出现基于 Google Gemma 4 31B 的去审查版本 mradermacher/gemma-4-31B-it-ARA-heretic-GGUF，采用「正交消融」（heretic/ARA）方法移除模型的拒答行为，并以极端量化压缩至 11.9GB，可在 12-16GB 显存的消费级设备上本地运行。发布者称在 100 个刁钻提示词测试中，拒答率从原版的 99 个降至 28 个，普通直答与深度思考模式的说教内容被清除且声称智力无损。模型采用 Apache 2.0 协议。注意：该帖来自中文自媒体转述，具体实测数据未经独立验证。