「MFU 是无意义指标」，tok/s/gpu 才是唯一该优化的数字
mike64_t · x · 2026-10-30
mike64t 继续推理效率争论，抛出两个观点：
- 商业层面：长期看消费端才是大规模收入的来源（SpaceX 靠 Starlink 赚得比火箭发射多），只要硬件在贬值，寻租式共享在极限上不是好策略。
- 技术层面：MFU 在不同模型规模、精度和分片方式之间不可比，是个「无意义指标」；真正该优化的是 tok/s/gpu，而其实际上限并不清楚，肯定不是 MMA 峰值。他还指出多数人计算 MFU 的方式有「单位犯罪」，算出超过 100% 的结果也不稀奇。
所属事件:本地推理效率之争：批处理经济学与 MFU 指标论战(6 条相关)→
「Infra」频道最新
- 英伟达考虑为 Nscale 西弗吉尼亚 AI 数据中心贷款做担保 — TechCrunch AI · 2026-10-31
- Northflank 嘲讽 Railway 被黑劝用户迁移，9 天后以同样方式遭黑客攻击 — aniketmaurya · 2026-10-31
- 开发者跟进「毫秒级分支基础设施」设想：Neon 已在做，想搬进 alchemy — samgoodwin89 · 2026-10-31
- 大厂集体押注算力效率：Trainium 省电、小模型、缓存压缩 — WillfullyWorkable · 2026-10-31
- 3090 上跑多 Agent 并发：12 个 agent 总吞吐从 30 提到 110 tok/s — Mchanger · 2026-10-31
- 分析师尽调 6 小时后由黑转粉：Avicena 光互连技术获认可 — BenBajarin · 2026-10-31