CUDA 细粒度同步指南:用数据信号替代 membar 提速短内核链
simran_s_arora · x · 2026-11-17
- NVIDIA CUDA 编程指南新增「细粒度同步」章节:消费内核不再等待 flag 或生产者 grid 完成,而是通过检查数据本身(sentinel 位模式)判断每个 input tile 是否就绪,tile 一就绪即可消费,显著降低短依赖内核链的交接延迟。
- 在 compute capability 10.7 设备上可用 TMA data validity reporting 实现:bulk-async 拷贝时硬件直接检查 sentinel 并通过 layout::v1 barrier 区分「拷贝完成」与「数据就绪」;若报出 sentinel,消费方需重新发起拷贝,硬件不会自动重试。
- farazdotai 补充:在 Rubin 上可进一步优化 CTA 的细粒度 overlap——用数据本身作信号(免 membar)并改用带硬件数据有效性检查的 TMA 指令;Blackwell 也可做,但硬件检查比软件轮询更快。
「编程与Agent」频道最新
- willcb:人人自建 RL 环境是训练轮,非通往 AGI 之路 — willcb · 2026-11-17
- Zed 创始人吐槽 Agent Skills:慢到没法每次改动都跑 — zeeg · 2026-11-17
- 开发者开源推理优化 skill 自称至少赚了 10 万美元 — Kyrannio · 2026-11-17
- 开源 Hermes Agent 个人助理配置:主模型降成本,杂事全钉低价模型 — alexcovo_eth · 2026-11-17
- 为何选 Lean?作者:生态势头最强,agent 写起来也不差 — hargup13 · 2026-11-17
- Quarterdeck 开源插件:把 Anthropic 常驻 Agent 五件套架构压进一条 prompt — InternationalData569 · 2026-11-17