实测显示 Gemma MoE 比 Dense 版便宜 20% 且快 25.5%
Practical-Koala2831 · reddit · 2026-07-21
用相同的 100 条提示词、通过 200 次 OpenRouter 真实 API 调用，对比了 Dense gemma-4-31b-it 和 MoE gemma-4-26b-a4b-it。
- 成本：MoE 版本每次查询便宜 20%。
- 速度：平均延迟快 25.5%。
- 输出：两边 token 输出一致，架构切换没有影响结果质量。
- 尾延迟：优势在 P50 时为 27.3%，到 P95 只剩 12.9%，说明高负载下两者都撞上了相同的基础设施上限。
作者的结论是：MoE “更便宜” 这件事在实际生产里站得住脚，但如果你的 SLA 看重尾部延迟，还是要先用自己的流量测一遍。按文中估算，这个 20% 的差价在 每天 1 亿次查询 的规模下，可能对应约 2970 美元/月 的节省。
「Infra」频道最新
- Claude 近半营收来自云市场渠道，占比三年内从 11% 涨至 47% — BenBajarin · 2026-10-26
- 降价即放量：Anthropic 10 月 token 用量暴涨，年底 ARR 或破 1000 亿美元 — GavinSBaker · 2026-10-26
- Alex Banks：电力是 GPU 上线瓶颈，真正的风险是需求先降温 — thealexbanks · 2026-10-26
- 分析师：蚂蚁是当前工作负载最具弹性可置换的模型厂商 — BenBajarin · 2026-10-26
- Anthropic S-1：训练基建优势使单任务成本降40%、营收增速翻倍 — BenBajarin · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26