Triton 官方 GPU 编程教程:从向量加法到融合注意力
techNmak · x · 2026-10-17
LLM 推理学习资源清单第 9 条:Triton 官方 GPU 编程教程。从 vector addition 入门,逐步进阶到 softmax、矩阵乘法和 fused attention,所有示例均可运行,适合学习 GPU kernel 的工作原理与写法。
「Infra」频道最新
- MiniCPM-V 4.7 仅占 3GB 显存,本地跑出 100 tokens/秒 — NielsRogge · 2026-10-17
- AI 算力竞赛的隐形功臣:数据中心电源管理芯片决定能效上限 — Olivier__OG · 2026-10-17
- 35B 多模态模型跑进 3GB 内存:MiniCPM-V 4.7 全程离线读懂家电面板 — alifcoder · 2026-10-17
- 本地跑 Qwen3.8-Flash-Next:换全量 FP8 n-gram 表质量明显提升 — sillynoobhorse · 2026-10-17
- 单卡 A100 本地跑 Nemotron 3.5,169 tok/s 处理百份病历仅 2 美分 — MaziyarPanahi · 2026-10-17
- NVIDIA 开源 AIPerf 基准工具 + Triton 官方教程:推理性能测量的两块拼图 — techNmak · 2026-10-17