从 1D 到 2D int8 量化 GPU kernel,博主分享底层性能跃升
goyal__pramod · x · 2026-09-05
博主尝试把 int8 量化的 GPU kernel 从 1D 推广到 2D,感叹跨度远超预期,并推荐自己此前写的 GPU 内部运作原理博客系列,认为理解 GPU 硬件机制后再读收获完全不同。适合想入门 GPU kernel 优化的开发者。
「Infra」频道最新
- AMD 携手 Cisco 与沙特 HUMAIN 部署 MI335X 集群，规划 250MW — Beth_Kindig · 2026-09-05
- Reef 发布推理原生基础设施:自改进 Agent 边学习边不间断服务 — pliang279 · 2026-09-05
- Google DeepMind 推出免费在线书《How To Scale Your Model》讲透 TPU 上 LLM 扩展 — goyal__pramod · 2026-09-05
- 开发者优化 MoE 内核:BF16 提速 1.2 倍,MXFP8 提速 1.6 倍 — retr0jirachi · 2026-09-05
- 显卡能跑多少 token/s？一条显存带宽公式帮你估算上限 — Pyrolistical · 2026-09-05
- Google Cloud 用 Cloud Run 沙箱破解编码 agent「修复循环」难题 — rseroter · 2026-09-05