Hot Chips 观察:推理芯片进入「群雄 ferment 时代」
BenBajarin · x · 2026-08-28
分析公司 Diligence Stack 从 Hot Chips 2026 得出结论:半导体业可能正处数十年来最具发明活力的时期。所有厂商都把「大规模推理」视为共同的工程问题——系统必须以客户可接受的速度和成本产出更多有效 token,但对瓶颈所在分歧巨大:有的厂商认为限制在内存带宽或容量,有的关注数据搬运距离,还有的押注改变处理器架构或用软件做更精细的任务调度。解决一个约束会把成本或复杂度转移到别处,因此各公司给出了截然不同的设计方案。
文章借用 Anderson 与 Tushman 1990 年经典论文中的「发酵时代」(era of ferment)框架:重大技术断裂后、主导设计确立前的竞争性试错期。NVIDIA 已确立训练侧的商用标准,而推理领域的技术押注远为分散,竞争压力真正存在——这正是推理进入发酵时代的证据。
所属事件:Hot Chips 2026:AI 推理芯片进入群雄并起时代(2 条相关)→
「Infra」频道最新
- DFlash 2 推出块扩散推测解码,显著加速 GLM-5.3-Flash — songhan_mit · 2026-08-28
- 实测 M3 Max 跑通 125B Qwen 模型,推理速度达 70tok/s — mayfer · 2026-08-28
- NVIDIA 推出 Mesh 开源计算网络,聚合闲置 GPU 跑 AI — nvidia · 2026-08-28
- AI 自动化研究发现 vLLM/SGLang 底层数值错误 — josh_tobin_ · 2026-08-28
- 实测 Muon 优化器:残差梯度平滑且稳定 — stochasticchasm · 2026-08-28
- 分析师预测 CXL 标准将走向商用,有望打破内存墙 — BenBajarin · 2026-08-28