FlashAttention 4 在 GB300 上快到「离谱」,做优化的都头疼
francoisfleuret · x · 2026-10-22
François Fleuret(Meta 前研究科学家)感叹 FlashAttention 4 在 NVIDIA GB300 上的速度「uncanny」——对于以「更快」为业的研究者来说,这种速度反而让人恼火,因为优化空间所剩无几。
「Infra」频道最新
- BIND9 爆高危漏洞:重放 GSS-TSIG 消息可致远程代码执行 — basedjensen · 2026-10-22
- 16GB 显卡同时跑生产应用和 Agent:后台任务凭什么抢推理资源? — Powermadlux · 2026-10-22
- Gartner:AI 数据中心需 8.5 万亿美元营收,预期仅 3.6 万亿 — AIFlow_ML · 2026-10-22
- 转引评论:身价 3000 亿美元的 Larry Page 拒付 5% 身价建基础设施 — georgemillo · 2026-10-22
- 传亚马逊购入 50 亿美元 Nvidia GB300 机架,却因缺电闲置吃灰 — AIFlow_ML · 2026-10-22
- 122B MoE 开源模型跑进 DGX Spark:52 tok/s、256K 上下文全配置实测 — lmoroney · 2026-10-22