FlashAttention 作者 Tri Dao：底层算子与推理栈优化是下一步突破口
togethercompute · x · 2026-08-13
在 ICML 期间的一场访谈中，FlashAttention 作者 Tri Dao 分享了他对 AI 架构演进的看法。当被问及下一个重大的架构突破来自何处时，他给出了反直觉的结论：并不存在单一的“银弹”架构。
他认为，真正的性能解锁来自于底层层面的内核优化、推理栈改进以及集群级别的调度优化。此外，他强调目前这些关键的基础设施工作大多是在开源社区中推进的。
「Infra」频道最新
- 黄仁勋披露：每 GPU 年收约数千美元软件费，成 NVIDIA 重要收入线 — rohanpaul_ai · 2026-10-16
- 开发者亲测：几万块 V100 本地部署 DeepSeek，不如直接订阅 Claude — lxfater · 2026-10-16
- 公开喊话 neocloud：我愿买 3 万美元 GPU 算力，给个折扣吗 — Sauers_ · 2026-10-16
- 拿到新硬件就开跑：垃圾佬第一时间本地部署模型 — lxfater · 2026-10-16
- Together AI 提出 Score Centering:量化推理下 RL 训练不再崩 — nrehiew_ · 2026-10-16
- AI 推理正走向异构分解:Prefill 与 Decode 分用专用芯片 — AccBalanced · 2026-10-16