深度解析 CuTeDSL Swizzle 布局与 M 参数计算原理
snowclipsed · x · 2026-09-02
推文探讨了 CuTeDSL 中 <3,3,3> swizzle 与 (8,64) block 的组合原因。引用的博客解释了在 8 行 64 个 bf16 元素且 16 字节对齐的布局下,B 和 S 的计算逻辑。针对 Ampere 架构示例中 M=3 而非 4 的问题,解释了 CuTeDSL 在布局偏移单元而非直接字节地址上推理 M,因此指针偏移是基于 layout codomain 的元素。
「Infra」频道最新
- 自建推理基础设施的优化潜力:会话亲和与推测调用 — _ScottCondron · 2026-09-02
- 预测市场:今年 69% 概率有州禁止新建数据中心 — Polymarket · 2026-09-02
- Agent 无限重试烧钱 16 小时?作者复盘并开源耐用型运行时 — slateraligator · 2026-09-02
- Anthropic 缓存读价降 75%,仅比 DeepSeek 贵 13 倍 — Teknium · 2026-09-02
- 观点:交易行业体量太小,难撑 AI 巨额算力投资 — iaindunning · 2026-09-02
- 巨头竞逐推理速度:GPT 5.6 跑出 750 tok/s — DeepLearningAI · 2026-09-02