Together 研究负责人谈内核原理与 AI 优化自身推理的循环
togethercompute · x · 2026-11-11
Together AI 研究高级副总裁 Dan Fu 在 The Compute 100 播客中聊了多个基础设施话题：
- 内核（kernel）到底是什么：面向普通听众解释 GPU 编程的基本单元
- 3T 参数模型的首日服务：如何在模型发布当天就支撑起超大规模推理
- Together Compiler：用 AI 来改进推理工作负载本身
Dan Fu 表示：模型现在已经足够好，可以把它们应用到自己的推理负载上，「模型改进自身推理」的自我改进（RSI）循环正在开始兑现承诺。
「Infra」频道最新
- Prism 能力提取新进展：从 Qwen 27B 抽出专家模型，内存不到 20%、性能持平 — tokenbender · 2026-11-11
- 苹果曝新应用 Harbor：多台 Mac 雷电5组集群跑本地 AI 推理 — BenBajarin · 2026-11-11
- Agent Arena 实测:任务越难 Gemini 4 Carbon 成本优势越大 — rseroter · 2026-11-11
- Chips and Cheese 深析 AMD Zen 6:分支误预测代价显著降低,整数调度回归 Zen 3/4 布局 — jedisct1 · 2026-11-11
- PyTorch ExecuTorch 新增 WebGPU 后端:模型一次导出浏览器直跑 — PyTorch · 2026-11-11
- Hedra 让 AI Agent 跑训练实验，人类研究员只做引导 — testingcatalog · 2026-11-11