mamf-finder 升级:支持 FP8/MXFP4/NVFP4 实测 GPU 真实 TFLOPS
StasBekman · x · 2026-10-03
Stas Bekman 更新了 ml-engineering 项目中的 mamf-finder 基准工具,新增对多种精度的支持:bfloat16、float16、float32、float8e4m3fn、float8e4m3fnuz、mxfp8、mxfp4、nvfp4,可用于测量各种负载下 GPU 的"真实 100% TFLOPS"。
配套文档解释了准确测速的关键细节:kernel 时间不只取决于张量形状,流经 GEMM 的数值本身会影响芯片负载并反馈到时钟频率——高熵比特模式比稀疏/全零模式翻转更多晶体管、功耗更高,一旦触及功耗墙就会降频。这正是锁定 GPU/显存时钟很重要的原因。
「Infra」频道最新
- 端侧AI初创Underdog获a16z等投资,Thom Wolf站台 — Thom_Wolf · 2026-10-03
- DeepSeek 自研芯片细节曝光:skip-scale 优化降低功耗换更高频率 — teortaxesTex · 2026-10-03
- SkyPilot 获 2000 万美元种子轮,统一调度多云闲置 GPU — skypilot_org · 2026-10-03
- 2038 年 1 月 19 日 03:14:07:32 位系统将遭遇「Epochalypse」回到 1901 年 — iannuttall · 2026-10-03
- 开发者用 LLM 制作 3D 交互指南讲解 GPU 体系结构 — ghumare64 · 2026-10-03
- Google 开源内部 Agent 编排器 AX:用 Redis 替代 etcd 管理百万级任务状态 — outlawent21 · 2026-10-03