HotChips 观点:HBF 适用有限,能效比比成本更关键
BenBajarin · x · 2026-08-24
针对 HotChips 2026 的 HBF 技术,评论指出其听起来好得难以置信。尽管容量大、成本低,但其实用性有限,仅适用于稀疏注意力(如 DeepSeek 风格)或专家并行等特定场景。对于推理而言,每瓦特生成的 Token 数比每 GB 成本更重要。
所属事件:HotChips 上的 HBF 高带宽闪存遭质疑适用性有限(2 条相关)→
「Infra」频道最新
- Hippius 推出去中心化存储,价格仅为云厂商 1% — markjeffrey · 2026-08-24
- 用低功耗迷你机做路由,通过 WoL 唤醒闲置的 AI 算力服务器 — Ok-Breakfast1878 · 2026-08-24
- 带宽优先架构:dMatrix 解决推理并发速度瓶颈 — BenBajarin · 2026-08-24
- Nvidia 网络架构存巨大惯性,NeoCloud 有望破局 — AccBalanced · 2026-08-24
- 传 Hugging Face 寻求出售,估值或超 130 亿美元 — xeophon · 2026-08-24
- 北大发布 TensorCast:冷启动提速 228 倍,TTFT 降 93% — jiqizhixin · 2026-08-24