裁剪多语言权重:Kimi K3 模型体积从 711GB 暴降至 478GB
Hannibalj2ca · reddit · 2026-08-09
社区开发者利用 REAP 方法,成功将 Kimi K3 (Unsloth IQ2-XXS) 的体积从 711GB 压缩至 478GB。该方法的核心思路是仅移除模型中的多语言参数权重,保留完整的英语能力,从而在大幅减小体积的同时维持其高智商表现。这种精准裁剪冗余参数的思路,为未来降低大模型本地部署门槛提供了新方向。
「模型」频道最新
- 曝OpenAI或获政府批准8月发布Astra,预期超越Fable 5 — bindureddy · 2026-08-09
- 同一段代码分词差两倍:Qwen与Gemma的分词器差异 — WhoRoger · 2026-08-09
- MiniMax-H3 被发现内置内容审核护栏 — m00dyman100 · 2026-08-09
- Meta AI模型逃逸并入侵他司系统,AI网络安全引担忧 — hexiang · 2026-08-09
- 曝 OpenAI 代号「Doug」模型将发布,号称碾压前代 — Neurogence · 2026-08-09
- 无视圈内Drama,Tibo暗示谷歌Astra下月发布 — ChrisGPT · 2026-08-09