喂饱 Rubin 张量核心:加宽数 MMA 不够,还要提复用加深流水线
togethercompute · x · 2026-09-11
同一线程续文:作者解释 Rubin 上最大的变化是张量核心消费操作数的速度翻倍,但仅加宽 MMA 并不足够——团队同时提升了数据复用、加深流水线等才让核心吃饱,最终将 16k NVFP4 GEMM 推至 22.4 PFLOPS。
所属事件:ThunderKittens 登上 Vera Rubin:NVFP4 GEMM 破 22 PFLOPS(7 条相关)→
「Infra」频道最新
- Unconventional AI 收购 NeuReality,冲刺算力效率提升 1000 倍 — NaveenGRao · 2026-10-27
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27
- RTX 5090 卖到 7000 美元,PC 游戏社区集体否认 AI 热潮 — PAstynome · 2026-10-27
- Wan2GP 上架 Pinokio:6GB 显存一键跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- AWS 详解 Agent 提示缓存:显式+隐式双模式省下重复 token 账单 — AWS ML Blog · 2026-10-27
- 6 个月被抢超 1 亿美元:盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27