FlashAttention 作者 Tri Dao：底层算子与推理栈优化是下一步突破口
togethercompute · x · 2026-08-13
在 ICML 期间的一场访谈中，FlashAttention 作者 Tri Dao 分享了他对 AI 架构演进的看法。当被问及下一个重大的架构突破来自何处时，他给出了反直觉的结论：并不存在单一的“银弹”架构。
他认为，真正的性能解锁来自于底层层面的内核优化、推理栈改进以及集群级别的调度优化。此外，他强调目前这些关键的基础设施工作大多是在开源社区中推进的。
「Infra」频道最新
- 探讨在 Blackwell 架构上部署 DeepSeek 的量化方案 — Best_Sail5 · 2026-08-13
- 单 Docker 容器跑通本地实时语音 AI 助手 — tom_doerr · 2026-08-13
- Browserbase获融资：打造可编程浏览器，让AI成为网络新用户 — jeff_weinstein · 2026-08-13
- 获3.9k星：GitHub开源CUDA编程与GPU优化系统教程 — tom_doerr · 2026-08-13
- AMD 宣布 Day 0 支持 Qwen3.8-2.4T 模型 — AccBalanced · 2026-08-13
- Claude Opus 5 登顶推理加速榜，自适应工作负载提速8.9倍 — maksym_andr · 2026-08-13