Qwen 3.8 125B 逆向工程特化量化发布:激活能量审计定向分配比特
jjusko20 · reddit · 2026-10-30
Reddit 用户发布与 HF 作者 jeffpeng3 合作的 Qwen 3.8 Swift 1.5 Flash「Heretic v2」无审查量化版(125B MoE,GGUF,约 96GB VRAM 可跑),专为逆向工程优化,同时保留了推理能力与输出长度。
关键做法:
- 重要性矩阵设计:作者自建 837 条、约 40 万 token 的校准语料,按任务分配权重——思维链 22.2%、系统提示 19.5%、设计架构 13.5%、agentic 工具调用 12.4%、逆向工程 8.8%(x86-64/ARM64 反汇编、Ghidra 反编译、反调试、去平坦化、Frida/eBPF 追踪等),外加约 2% 无拒答 heretic 域;与 AtomicChat 团队在原始基座上的大规模通用语料矩阵按 70/30 融合,弱通道自动回退到通用基线。
- 激活能量审计定比特:测量发现第 36 层起 down-projection 能量飙升 3 倍、47 层达到峰值(为第 2 层的 48 倍),因此 36–47 层的 down-projection 升到近无损 8-bit;44–46 层 gate/up 为能量峰,升到 5-bit;第 0 层注意力 gate 最敏感,保持不压缩;第 2 层承载 51B 参数 n-gram 表汇入残差流,也严格保护。
- 仓库附带 strata 构建产物,量化与 imatrix 配方均已公开。
所属事件:Qwen 3.8 逆向工程特化无审查量化版发布(2 条相关)→
「模型」频道最新
- Claude Opus 5.5 罕见翻车:推理认定该标记,最终答案却放行 — gleech · 2026-10-30
- Reddit 实测:换用小模型反而干得更多,$20 额度突然够用了 — billFoldDog · 2026-10-30
- Hassabis 晒 Artificial Analysis 榜:Gemini 登顶第一 — demishassabis · 2026-10-30
- ML Commons 推出「基准即服务」,试图终结刷榜时代 — RexDouglass · 2026-10-30
- Gemini 4 Carbon 登顶全球第一,Anthropic S-1 财报数据全解 — altryne · 2026-10-30
- 爆料人晒对比图:OpenAI 两天内照搬其 ChatGPT 短信功能建议 — flowersslop · 2026-10-30