Inkling 2 Mini 去审查版发布:拒答率从 100% 降到 0%

Top-Eye-8104 · reddit · 2026-11-22

Atomic Chat 团队的 Daniel 发布了 inkling 2 mini 的去审查版本:用一个小的 LoRA adapter 移除模型的拒答方向(refusal directions),并烘入 GGUF 量化。

实测对比:英文测试集拒答率从 100% 降至 0%,推理 low/high 档拒答从 28/30、26/30 降到 0/30;代价是 MMLU 从 80.65% 微降到 79.15%(保留约 98%),有效工具调用反而从 18/20 升到 20/20。

已发布 3 档量化:AD-Q4K 16.53GB、AD-IQ3S 13.34GB、AD-IQ2M 8.67GB,另提供 40MB 的独立 LoRA adapter 可叠加在既有量化上,权重与完整测试数据在 Hugging Face 开放。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →