H100 时序侧信道:GPU 邻居可探测你的模型深度与工作负载
AI Engineer · youtube · 2026-10-12
AI Engineer 演讲视频,Branislav Brzak(Stealthium)演示 H100 共享 GPU 上的时序侧信道攻击,标题即「NVIDIA MIG 隔离会泄漏时序数据」。
攻击方式与能力
- 仅需约 3 微秒的额外延迟,即可探测同一 GPU 切片上另一租户的活动;攻击者只读自己分片的内存,不读取受害者内存、不利用软件漏洞。
- 通过重复内存读取→频率分析→token 速率和层签名,可推断模型深度、解码速度,并区分 code/prose/JSON/检索等工作负载类别。
- 依赖 speculative decoding 的接受模式改变步进时序;单纯解码速度指纹较弱,层信号有助于区分架构相近的模型。
- 还演示了跨 NVLink:在 NVSwitch 连接的另一台 H100 服务器上,信号更弱但仍可提取信息。
边界与防护
- 作者明确区分:攻击观察到的是时序而非内容,无法恢复实际 prompt 或回答。
- 结论:内存与计算隔离(MIG)不能自动消除影响整个 GPU 的硬件操作信号;运维者应考虑租户放置策略、权衡隔离与通信方式,并在 GPU 上监测探测性工作负载。
「Infra」频道最新
- 微软拟 2027 年起以吉瓦级规模部署自研 Maia 芯片主扛推理 — The Decoder · 2026-10-12
- 微软计划大规模部署自研 AI 芯片,瞄准削减算力成本 — pstAsiatech · 2026-10-12
- Ragged KV 让循环语言模型推理 FLOPs 直降 25%，无需重训练 — DanielKhashabi · 2026-10-12
- NVIDIA 提出 ELR:单 checkpoint 循环推理,4 圈提升 7.25 分无单圈税 — nvidia · 2026-10-12
- 吃灰旧笔记本变身家庭服务器:Proxmox+NetBird 入门指南 — aestheticedwar1 · 2026-10-12
- 实测单通电话转写仅 0.02 美元,Whisper 二次转写还纠正了实时 ASR 漏听 — Kindly-Duty272 · 2026-10-12