开发者晒训练仪表盘:成本约 $11/百万 token,MFU 高得离谱
jon_durbin · x · 2026-09-11
jondurbin 分享了一个快速搭建的训练监控仪表盘,展示一次模型训练 run 的可见性数据:成本约 $11/b tokens(每十亿 token 11 美元),他称这一成本和 MFU(模型算力利用率)都「insane」,整个项目「pretty legendary」,推理表现也值得关注。训练使用了 @liumio 的若干节点。
所属事件:开发者实测去中心化训练：约 11 美元跑十亿 token(4 条相关)→
「Infra」频道最新
- 云上全 AI 论破产：企业 AI 正回流本地与混合基础设施 — DavidLinthicum · 2026-09-11
- ThunderKittens 登上 Vera Rubin:NVFP4 GEMM 跑出 22 PFLOPS — togethercompute · 2026-09-11
- 开源 Go 网关：拦截 Agent 失控循环并按 run 归因 LLM 花费 — SnooCauliflowers2631 · 2026-09-11
- 2×RTX 3090 + 512GB DDR5 本地跑大模型，如何冲上 15 t/s？ — levoniust · 2026-09-11
- 用远程 Agent 重建家庭实验室:工具与检查比 LLM 本身更关键 — HankYeomans · 2026-09-11
- 开源 LayerLens：按 token×层粒度剖析 LLM 推理耗时 — Dry_Mixture130 · 2026-09-11