tensor memory 会压低 GPU occupancy
bronzeagepapi · x · 2026-07-16
转发内容提到，HazyResearch 发现：访问 tensor memory 会把 occupancy 限制到 **每个 SM 只有 1 个 CTA**。 这指向了 GPU kernel/内存访问模式对并行度的硬约束，是一个偏底层的性能结论。
bronzeagepapi · x · 2026-07-16
转发内容提到，HazyResearch 发现：访问 tensor memory 会把 occupancy 限制到 **每个 SM 只有 1 个 CTA**。 这指向了 GPU kernel/内存访问模式对并行度的硬约束，是一个偏底层的性能结论。