Modular 统一计算层演示:TPU v6e、d-Matrix 数天内完成接入
carrycooldude · x · 2026-09-09
Modular 首席科学家 Abdul Dakkak 在 ModCon 2026 演讲中展示其统一计算层的硬件接入方案,直指当前 AI 软件栈碎片化——每种加速器各有自己的编译器、kernel 库和运行时,成本由开发者承担。三个实测案例:
- AWS Trainium:Modular 自家团队完成,Gemma 4 31B 端到端跑通;
- Google TPU v6e:合作方 HTEC 团队在没有 LLVM 后端、不熟悉 Mojo/MAX 内部、仅获少量支持的情况下完成接入;
- d-Matrix Corsair:由 d-Matrix 团队在自己技术栈上实现,周二拿到 repo 权限,次周一即跑通 matmul。
配套 HTEC 文章称该方法把 AI 硬件适配周期从数年缩短到数月。
「Infra」频道最新
- 求解 Navier-Stokes 花掉 1300 亿输出 token，按不同模型算高达 1800 万美元 — mitsuhiko · 2026-09-09
- Baseten 将前沿模型增量权重同步压至 40 秒内,仅 6 秒请求暂停 — baseten · 2026-09-09
- 戴尔高管：DRAM最紧缺，先进制程几乎全线供应受限 — Beth_Kindig · 2026-09-09
- Alphabet CapitalG 领投 AI 芯片创企 Celero，估值 30 亿美元 — dinabass · 2026-09-09
- Qwen3.8-Flash-Next 满上下文首 token：SGLang 35 秒，llama.cpp 要 258 秒 — FantasticNature7590 · 2026-09-09
- MiniMaxH3 Context Loop 新增 top_level_requeue 模式，长序列内存占用大降 — Slight-Living-8098 · 2026-09-09