Together 推出持续编译器：Agent 自动优化推理，吞吐提升 252 倍
simran_s_arora · x · 2026-11-06
Together AI 研究团队发布 Together Compiler：面向 AI 推理的「持续编译」系统。核心洞察是当今推理负载是「多态」的——OpenRouter 上 80% 流量指向最近三个月发布的模型，十大热门开源模型各用不同架构，用户行为不断变化，静态优化很快过时。Together Compiler 用 agent 持续监测并即时重新优化部署。
亮点：
- TKCC（内核编译）让 agent 每小时尝试的优化实验数量提升 252 倍，吞吐大幅超越人工优化；
- 配图实测显示 TKCC 在多个 SciML 模型上普遍优于 Claude Code：AIFS-ENS 2.0 加速 3.5x（Claude 结果无效）、PoseidonT 达 6.4x vs 4.4x、Walrus 4.3x vs 3.2x 等；
- 团队称该方法可泛化到 LLM 之外的科学机器学习模型。
所属事件:Together AI 发布持续编译器 TKCC，Agent 自动优化推理(27 条相关)→
「编程与Agent」频道最新
- FastAPI 作者 tiangolo:听完 jxnlco 演讲后高频用语音操控 Codex — jxnlco · 2026-11-06
- AWS WAF 联动 Stripe：AI Agent 爬取内容可直接付费，支持法币结算 — jeff_weinstein · 2026-11-06
- 企业 AI 缺的是「可计算企业」层:把员工脑中的业务逻辑沉淀下来 — vishalmisra · 2026-11-06
- Claude Skills 冷启动关键:先喂给它你的真实业务 — aryanXmahajan · 2026-11-06
- 生产环境用 Claude/Codex/Cursor,要不要上 MCP 防火墙? — vdobroskok · 2026-11-06
- Firecrawl 推 Alexandria 金融数据层并宣布 7500 万美元 B 轮 — devdigest · 2026-11-06