FlashAttention 共同作者 Dan Fu 播客:从 CUDA 内核到开源模型经济学
realDanFu · x · 2026-11-11
The Compute 播客邀请 Together AI 研究高级副总裁、FlashAttention 共同作者 Dan Fu,覆盖话题包括:
- CUDA、内核与编译器各自做什么
- FlashAttention 为何重新思考数据搬运
- AI 如何改变内核工程
- 新开源模型如何上市、推理收入如何反哺开源模型
- 自有 GPU 与租用 GPU 的取舍
时间轴从「从 AI 模型到 CUDA 内核」(1:04)到「自有 vs 租用算力」(51:17),是一次系统层的深度对谈。
「Infra」频道最新
- Mintlify 开源 agent-traffic:11 月 4.89 亿次请求,77% 访问已是 Agent — handotdev · 2026-11-11
- Databricks Lakebase Search 正式可用,检索与业务数据同库免 ETL — matei_zaharia · 2026-11-11
- xAI 抛弃 JAX 用 C/C++ 重写全套栈，Grok 4.8 进入 RL 阶段 — ivan_bezdomny · 2026-11-11
- RidgeFill 免训练投机预填充:120K 长 prompt 首 token 提速 1.25-1.31 倍 — Public_Umpire_1099 · 2026-11-11
- NVIDIA NCCL 2.32.6 发布：为 Vera Rubin 平台带来性能优化与新 Device API — simonguozirui · 2026-11-11
- 开发者自建 AWS sandbox 成本仅 Daytona 定价四分之一 — KlausCodes · 2026-11-11