实测显示 Gemma MoE 比 Dense 版便宜 20% 且快 25.5%
Practical-Koala2831 · reddit · 2026-07-21
用相同的 100 条提示词、通过 200 次 OpenRouter 真实 API 调用，对比了 Dense gemma-4-31b-it 和 MoE gemma-4-26b-a4b-it。
- 成本：MoE 版本每次查询便宜 20%。
- 速度：平均延迟快 25.5%。
- 输出：两边 token 输出一致，架构切换没有影响结果质量。
- 尾延迟：优势在 P50 时为 27.3%，到 P95 只剩 12.9%，说明高负载下两者都撞上了相同的基础设施上限。
作者的结论是：MoE “更便宜” 这件事在实际生产里站得住脚，但如果你的 SLA 看重尾部延迟，还是要先用自己的流量测一遍。按文中估算，这个 20% 的差价在 每天 1 亿次查询 的规模下，可能对应约 2970 美元/月 的节省。
「Infra」频道最新
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11
- PyTorch Day Korea 2026 首届线下大会启动,9月13日截止征集演讲 — PyTorch · 2026-09-11
- 本地跑 LLM 选卡:4 张 CMP-170HX 涨价 vs Mac Studio M5 — rumboll · 2026-09-11
- llama.cpp 为 RDNA4 调优 Flash Attention,大上下文提升明显 — pmttyji · 2026-09-11