用范畴论给深度学习画图:PyNCD 把 FlashAttention 画在餐巾上
GioeleZardini · x · 2026-09-28
MIT 研究者 Gioele Zardini 介绍一套基于范畴论的深度学习形式化图示方法。要点:
- 问题:深度学习模型缺乏系统性分析框架,推理(KV-cache)、训练(反向传播)、软硬件映射等视角各自独立推导。
- 方法:借助范畴论的组合与抽象工具,建立严格的图表语言,将模型的不同抽象层(数学、训练/推理形态、逻辑与物理硬件层)统一表达。
- 落地成果:已用于系统推导硬件感知的 FlashAttention(《FlashAttention on a Napkin》),并快速生成 attention 变体的 kernel。
- 开源:数学基础见论文《Weaves, Wires, and Morphisms》,配套两个开源包 PyNCD 和 TSNCD;网站上的完整架构交互式图表均由 PyNCD 表达、TSNCD 绘制。
作者认为在 agentic mathematics 时代,证明变廉价,关键在于合适的表达语言,范畴论恰好提供这一点。
「Infra」频道最新
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- Stratechery 虚构讣告:假如黄仁勋 2026 年卸任英伟达 — Gregory_C_Allen · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16