开源 OKC 挑战赛 H200 内核:第 99 名公开 5 个内核与提速数据
abhijithneil · x · 2026-11-10
abhijithneil 开源了自己在 Open Kernel Challenge 中的提交(排名第 99,进入两位数),包含 5 个 NVIDIA H200 内核及学习笔记。相对 SGLang 参考实现的提速:
- Dense projections:1.59x
- Attention decode:2.66x
- Routed experts:2.43x
- Decoder layer:2.30x
- Prefill layer:1.93x
仓库还给出了推荐阅读顺序(从 dense projections 入手)和 token/projection/expert/pooler 等术语的简明解释,适合想入门 GPU 内核优化的开发者照着读代码。
「Infra」频道最新
- 开源模型本地部署算账：Kimi K3.1 权重 594GB，四台 Mac Studio 仅 15 tok/s — ravikantagrawal · 2026-11-10
- InfraRSI 用递归自我改进优化训练基建：MFU 从 17.4% 提到 30%，加速至 2.75 倍 — TokenRhythm · 2026-11-10
- ClickBench 推出在线 Playground，可同时对 110+ 数据库跑 SQL — mgill25 · 2026-11-10
- 马斯克：Grok 新训练栈源自 Starlink 工程，自研时间与报文头 — elonmusk · 2026-11-10
- 4 张 3090 换 1 张 5090?马来西亚创业者纠结 GPU 升级路线 — whity2773 · 2026-11-10
- Hybrid-Spark 推理加速：按步切换草稿模型最高提速 1.62 倍 — Julianfmack · 2026-11-10