DeepSeek 开源 TileKernels:数十个接近硬件极限的 LLM 算子库
rohanpaul_ai · x · 2026-10-01
这是 DeepSeek 昇腾开源项目的配套 GitHub 仓库 TileKernels:基于领域专用语言 TileLang 实现的数十个深度优化算子库,覆盖 LLM 训练与推理的常见操作,包括混合专家(MoE)路由、Engram、量化和流形超连接(mHC)。
- 大多数算子性能接近硬件的计算吞吐或内存带宽上限,全部已用于 DeepSeek 内部训练与推理。
- 2026-09-30 更新新增华为昇腾支持:沿 NVIDIA 路径提供第二后端,运行时自动选择,同一套 Python API 可在 NVIDIA GPU 与华为 NPU 上运行。
- 仓库目前约 1.9k stars,MIT 许可。
所属事件:DeepSeek 开源昇腾全套基础组件,剑指 CUDA(17 条相关)→
「Infra」频道最新
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- Stratechery 虚构讣告:假如黄仁勋 2026 年卸任英伟达 — Gregory_C_Allen · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16