Kimi K3 量化版发布:1-bit 压缩至 594GB 保留近 80% 精度
BankApprehensive7612 · reddit · 2026-07-30
Unsloth 发布了适用于本地部署的 Kimi K3 量化版本,将原本 1.56TB 的模型压缩至最低 594GB(1-bit)。测试显示,体积最小的 1-bit 版本依然保留了 78.9% 的准确率,为本地运行超大规模模型提供了可行方案。
所属事件:Unsloth 发布 Kimi K3 量化版,1-bit 压缩至 594GB 保留近 80% 精度(6 条相关)→
「Infra」频道最新
- 中国AI基建热潮推动国产芯片公司利润暴增,MetaX实现盈利 — pstAsiatech · 2026-10-16
- Agent 何时需要 API 网关:Reddit 热议直连与统一接口的分界线 — TurbulentStiffness · 2026-10-16
- 台湾拟在德州投40亿美元建AI制造园区,服务英伟达与台积电 — Polymarket · 2026-10-16
- KV 缓存远程读取竟比重算还慢:GLM-5.3 生产系统案例复盘 — MultiverseComputingCAI · 2026-10-16
- GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16
- 继 RTX 5090 之后,NVIDIA 商城又下架入门级 RTX 5050 — chemist_slime · 2026-10-16