Together 推出编译器:为多架构 AI 推理做持续编译
appenz · x · 2026-11-06
Together 团队发布 Together Compiler,面向 AI 推理的「持续编译」系统,研究负责人 simransarora 宣布成果,Together 联合创始人 appenz 公开点赞称论文出色。
核心观察:当今推理负载是「多态」的、不断变化——
- OpenRouter 上 80% 的流量流向最近三个月内发布的模型
- 最热门的十个开源模型各自使用不同的架构
这意味着传统静态编译难以跟上模型迭代速度,Together Compiler 通过持续编译来适配不断换架构的推理需求,细节待论文展开。
所属事件:Together AI 发布持续编译器 TKCC，Agent 自动优化推理(27 条相关)→
「Infra」频道最新
- Cloudflare Durable Objects 调用自动重试,最多 4 次无需自写重试逻辑 — dinasaur_404 · 2026-11-06
- 科技股单日蒸发 3.2 万亿美元,Nvidia 跌 9.3%,数据中心或受地方严审 — rohanpaul_ai · 2026-11-06
- 瑛太 Huang 新视频拆解 LLM Serving：让推理更快更便宜的关键技术 — jbhuang0604 · 2026-11-06
- 美国 BIS 再延期:实体清单关联方终端用户管制暂停延至 2027 年 1 月 — pstAsiatech · 2026-11-06
- Meta 提出 Axia：少量试跑即可学到推荐排序模型的 scaling law — _reachsumit · 2026-11-06
- 剔除数据中心设备后,美国贸易逆差占 GDP 仅 0.7%,为 2000 年以来最低 — soumitrashukla9 · 2026-11-06