DeepSeek 开源 TileKernels：数十个接近硬件极限的 LLM 算子库
rohanpaul_ai · x · 2026-10-01
这是 DeepSeek 昇腾开源项目的配套 GitHub 仓库 TileKernels：基于领域专用语言 TileLang 实现的数十个深度优化算子库，覆盖 LLM 训练与推理的常见操作，包括混合专家（MoE）路由、Engram、量化和流形超连接（mHC）。
- 大多数算子性能接近硬件的计算吞吐或内存带宽上限，全部已用于 DeepSeek 内部训练与推理。
- 2026-09-30 更新新增华为昇腾支持：沿 NVIDIA 路径提供第二后端，运行时自动选择，同一套 Python API 可在 NVIDIA GPU 与华为 NPU 上运行。
- 仓库目前约 1.9k stars，MIT 许可。
所属事件:DeepSeek 开源六项昇腾基础组件，对标 CUDA(17 条相关)→
「Infra」频道最新
- Arduino 称每节点远低于 Mac mini,嵌入式板卡改写 AI Agent 部署经济账 — CatAstro_Piyush · 2026-10-01
- SemiAnalysis 注入故障实测:GPU 集群租赁商可靠性差距悬殊 — AccBalanced · 2026-10-01
- Reddit网友跑DeepSeek无人值守循环:2.37亿token仅花3.48美元 — dogfoodarchitect · 2026-10-01
- 基于 Cornell 教程为团队自制 GPU 架构入门课程 — idanbeck · 2026-10-01
- Qwen Flash Next MTP 工作重启,官方 GGUF 量化与 llama.cpp PR 上线 — jacek2023 · 2026-10-01
- Strata 采样参数冷知识:run 配置里可加 sampling 块设默认值 — KissMyShinyArse · 2026-10-01