实测显示 Gemma MoE 比 Dense 版便宜 20% 且快 25.5%
Practical-Koala2831 · reddit · 2026-07-21
用相同的 100 条提示词、通过 200 次 OpenRouter 真实 API 调用，对比了 Dense gemma-4-31b-it 和 MoE gemma-4-26b-a4b-it。
- 成本：MoE 版本每次查询便宜 20%。
- 速度：平均延迟快 25.5%。
- 输出：两边 token 输出一致，架构切换没有影响结果质量。
- 尾延迟：优势在 P50 时为 27.3%，到 P95 只剩 12.9%，说明高负载下两者都撞上了相同的基础设施上限。
作者的结论是：MoE “更便宜” 这件事在实际生产里站得住脚，但如果你的 SLA 看重尾部延迟，还是要先用自己的流量测一遍。按文中估算，这个 20% 的差价在 每天 1 亿次查询 的规模下，可能对应约 2970 美元/月 的节省。
「Infra」频道最新
- 图计算工作负载 854.graph500 进入 SPEC CPU 2026 — Prof_DavidBader · 2026-07-22
- HilbertRaum 开源一款完全本地运行的私有 AI 聊天应用 — Vladowski · 2026-07-22
- 混合与本地推理，正在成为 AI 能耗和 token 成本的解法 — dmitry140 · 2026-07-22
- NVIDIA 公开 Vera CPU 细节，宣称机架可达 2.2 万核 — ryanshrout · 2026-07-22
- NVIDIA 称 Vera Rubin NVL72 比 Blackwell 每兆瓦多出 10 倍 token — nvidia · 2026-07-22
- AI 经济正在耗尽便宜算力，数据中心和电力成本飙升 — Scobleizer · 2026-07-22