Mach 2 Medium 量化 Qwen 3.8:仅损 1.5% 省 10.9GB,超 Unsloth 同档
pbaylies · x · 2026-11-05
@syzygyeng 发布 Mach 2 Medium(基于 Qwen 3.8 Flash-Next)压缩方案,在 GPQA Diamond、Terminal-Bench 2.1、DeepSWE v1.1、AutomationBench 四个基准上确立了新的 Pareto 前沿:26.7GB 权重仅比 BF16 平均损失 1.5%,比同损水平的 Unsloth UD-IQ1S 小 10.9GB,也大幅优于 GSQ(ISTA)各档位。量化分档里 UD-IQ2XS/XXS 可达 100%+ 无损但占 50GB 以上显存。
「Infra」频道最新
- YC 支持的 OpenLakeHQ 发布:开源模型接入数据后持续训练托管 — ycombinator · 2026-11-05
- Stanford 发布 ParallelKernelBench:最强模型零样本仅 32% 正确率 — burny_tech · 2026-11-05
- AI 算力生意暗藏 WeWork 式风险:长债短收的结构性错配 — bookwormengr · 2026-11-05
- SK 海力士:存储供不应求将持续到 2030 年 — Beth_Kindig · 2026-11-05
- Macrocosmos 发布首个公开模型 IOTA Decide 4B:全球分布式 GPU 训练、Apache-2.0 开源 — markjeffrey · 2026-11-05
- 「焦耳换 GDP」框架:最高价值的 AI 任务未必最省能 — arena · 2026-11-05