Together 发布首个生产级 Agent 化推理优化研究 Compiler
simran_s_arora · x · 2026-11-05
Together AI 研究负责人 simran arora 宣布发布 Together Compiler，号称首个面向生产规模的「agentic inference optimization」详细研究，包含论文与博客。核心思路是用 agent 来自动化推理优化——这一想法此前只在高层博客中被提及，而 Together 的贡献在于深入权衡与工程细节。
要点：
- 团队过去一年从「为每个客户手工调优」转向规模化、自动化的优化交付；作者此前做过 ThunderKittens、Megakernels 等加速框架。
- 围绕「Polymorphic Inference」研究路线，后续将持续发布更多博客，覆盖 Compiler 的开发历程、实验结果等。
- 研究以开源精神向社区公开。
所属事件:Together 发布持续编译器 TKCC：Agent 自动优化推理(11 条相关)→
「Infra」频道最新
- LFM3-Omni-2B 移植 iPhone：完全离线多模态对话达 80 tok/s — JosephJacks_ · 2026-11-05
- 轨道数据中心发射入轨：被玩成「精灵西渡」的科幻梗 — rand_longevity · 2026-11-05
- 越南林同省拟引入 Starlink，破解山区事故救援通信难题 — elonmusk · 2026-11-05
- SpaceX 携手高通建全美 Starlink Mobile 5G 网络，2027 年铺开 — Polymarket · 2026-11-05
- Agent 烧钱循环怎么防：调用前预算护栏的六道检查与三个踩坑 — MaverikSh · 2026-11-05
- 美国 AI 扩张卡在两道物理关口：电力与人形机器人量产 — ingliguori · 2026-11-05