Qwen3.8 剪枝实验：256 专家为平衡点，Q4 优于 Q2
EyalToledano · x · 2026-08-27
作者对 Qwen3.8-Flash-next 进行了剪枝曲线测试，分析模型大小与精度的权衡：
- 最佳剪枝点：保留 256 个专家是“甜点区”，模型大小减半后精度才开始显著下降。
- 剪枝策略：随机剪枝导致模型崩溃，证明保留哪些专家至关重要。
- 量化对比：尝试 Q2 量化（保留全专家，63GB）输出质量极差；Q4 量化配合半数专家的效果远优于前者。
「模型」频道最新
- Nat Lambert 爆料：Nvidia、HuggingFace 预告近期密集发布 — natolambert · 2026-10-15
- 马斯克转发用户实测：Grok Bot 不比 Codex 强但更顺手 — elonmusk · 2026-10-15
- 爆料称 Anthropic 新模型将发布,疑似已挖出十余个 Chrome 高危漏洞 — matthew_d_green · 2026-10-15
- StartLux-Decision 发布:RL 训练的校准决策模型,27B 得分 72.8 — startlux-models · 2026-10-15
- Meta Muse Code 用量遭吐槽：5 小时额度仅剩 21% — ThomasScialom · 2026-10-15
- Claude Code 报错截图现「Fable 5.1」与「Opus 5」字样,疑为新模型露出 — adonis_singh · 2026-10-15