HotChips 观点:HBF 适用有限,能效比比成本更关键
BenBajarin · x · 2026-08-24
针对 HotChips 2026 的 HBF 技术,评论指出其听起来好得难以置信。尽管容量大、成本低,但其实用性有限,仅适用于稀疏注意力(如 DeepSeek 风格)或专家并行等特定场景。对于推理而言,每瓦特生成的 Token 数比每 GB 成本更重要。
所属事件:HotChips 上的 HBF 高带宽闪存遭质疑适用性有限(2 条相关)→
「Infra」频道最新
- 英伟达携手瑞典 Wallenberg,Launch 共享 AI 超算 Sferical One — nvidia · 2026-10-16
- 基础设施下一站:能自我进化、自我验证的自适应系统 — _shreya_s · 2026-10-16
- 小米 MiMo RL 训练曝光:30 步花掉 347 万美元 — bycloud · 2026-10-16
- Cerebras 用异构 prefill 池喂晶圆级引擎,解码速度与 batch 解耦 — ai · 2026-10-16
- d-Matrix Corsair 机架正式出货,演示 H100+8 XPU 跑出 845 tok/s — ai · 2026-10-16
- Actual 实测 DGX Station 跑出 10k tok/s,推理引擎与 GB300 案例曝光 — natesiggard · 2026-10-16