Nace 发布 71.8GB DeepSeek V4.1 Flash 编码量化,KL 散度低 39%
m4rkGS · reddit · 2026-11-19
开源实验室 nace.ai 用其 Weight Space Quantization 方法发布了两款 GGUF 量化模型:
- Hy4-flash 通用量化:107.49GB 版 KL 0.233、127.22GB 版 KL 0.133,对比同尺寸的 Xylolabs Q2K(0.402)、AngelSlim IQ2AH(0.509)等低 2-3 倍。
- DeepSeek V4.1 Flash Coding 专用编码量化:针对 763B 的 V4.1 Flash(1017 版本),仅 71.8GB。做法是先用真实编码工作(agent 会话、竞赛题、代码提交)做校准,再从每层 384 个专家中保留代码路由最常用的 200 个(约占代码路由的 90%),并按层混合精度。held-out KL 仅 0.140,比同尺寸的 ISTA Coder(0.231)低 39%;LiveCodeBench v6 两个种子均解出 37/38 题,编码能力未见退化。
- 48GB Mac(M5 Pro)上用 llama.cpp 即可运行,MIT 许可,权重与 Engram 查找表分仓发布。
「编程与Agent」频道最新
- 开发者用开源视频模型给本地语音 Agent 加上实时数字人头像 — Scobleizer · 2026-11-19
- 博主用个人 Agent 自动剪辑直播,两句话提示词产出高光切片 — Scobleizer · 2026-11-19
- OpenClaw 不止单 agent:用 Specialist Teams 搭一支小型 agent 舰队 — heyneighbor · 2026-11-19
- Cognition 联创送 1 万个 Devin Bot:发短信讲点子即可领最多 1 万美元额度 — marvinvonhagen · 2026-11-19
- mitsuhiko 的 agent 半夜自主验证 AirPlay 逆向,凌晨 3 点开满音量放声音吓醒主人 — altryne · 2026-11-19
- mitsuhiko 被 agent 半夜吵醒:为验证 AirDrop 逆向把音量开到最大 — mitsuhiko · 2026-11-19