BaseQuant V1 量化 Qwen3.8-27B,KL 散度比 Unsloth 低 17–34%
nightowlsleeping · reddit · 2026-10-23
Base Compute 发布了面向 agentic 场景的 Qwen3.8-27B 量化版本 BaseQuant V1,提供 10.93 / 16.41 / 20.82 GB 三档 GGUF。
在其留出测试集上,这些量化模型与 BF16 的 KL 散度比同尺寸的 Unsloth 量化低 15–34%,意味着更小的体积下更接近原始模型分布。团队邀请用户在日常负载中实测反馈。
「Infra」频道最新
- Suhail 高价收货:公开求购用于模型的 RL 内核优化任务 — AIFlow_ML · 2026-10-23
- GitHub 自述:99.99999% 仓库已迁至 Azure,按引用级仲裁解锁 agent 规模并发 — marlene_zw · 2026-10-23
- 黄仁勋到访阿斯塔纳，与哈萨克斯坦副总理畅谈 AI 国家战略 — nvidia · 2026-10-23
- 实测RTX 4060：FP16矩阵乘法并非恒快2倍，大矩阵提速约3.5倍 — cneuralnetwork · 2026-10-23
- 欧洲博士生可随需使用 B200,美国同行要靠数据创业公司养项目 — HildeKuehne · 2026-10-23
- 英伟达柏林 GTC:人形机器人与 Vera Rubin 超算成主角 — emmanuelvivier · 2026-10-23