NVIDIA H100 全局负载并发响应性能实测
ssh4net · x · 2026-08-19
论文研究了 NVIDIA H100 SXM5 上 Plain Global Loads 的并发响应特性。通过使用 Little’s Law 和微基准测试,作者发现内存带宽取决于内核在传输中保持的字节数。主要结果显示,在主要配置下,随着每个线程负载 K 从 2 增加到 8,LDG 带宽达到峰值后下降约 35%。这一下降趋势在不同控制实验中均稳定存在,揭示了 Hopper 架构在特定负载路径下的性能特征。
「Infra」频道最新
- 旧金山办「算力交易大厅」:买家卖家面对面签算力协议 — ctjlewis · 2026-10-16
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性:衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者:芯片供应链高度集中,硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16