Yutori 揭秘 Navigator 降本 2-5 倍:80% 前缀缓存命中率
togethercompute · x · 2026-08-21
Web agent 的成本由推理次数决定:简单任务(提取字段、填表、导航)约需 10-20 次推理调用,跨站点工作流可达数百次。Yutori 联合创始人/CEO 在 Raise Summit 分享了 Navigator 如何在 web 任务上做到比闭源模型便宜、快 2-5 倍:
- 80% 前缀缓存(prefix cache)命中率,大幅削减重复上下文的计算
- 在更小参数量的模型上使用投机解码(speculative decoding)
- 用 SFT + RL 后训练 Qwen 模型而非自研基座
团队跑在 Together 上,借助可定制端点与自动扩缩容,几分钟内就能对新模型变体做 A/B 测试。
「编程与Agent」频道最新
- 开源 AIUsage:一个面板管 12 家 AI 订阅的额度、成本与账号 — tom_doerr · 2026-08-21
- 斯坦福学者:自动化科研编排器仍是重大解锁点,但当前版本尚不到位 — anshulkundaje · 2026-08-21
- CopilotKit 开源 OpenBot:给 AI 同事配一台专属电脑 — Roger_M_Taylor · 2026-08-21
- Ornith 1.5 35B Q5 本地跑进 GitHub Copilot,Mac M3 Max 可用 — DanWahlin · 2026-08-21
- 开发者弃用 MacBook Pro,改用 Linux 跑全部 agent 工作流 — Rasmic · 2026-08-21
- 用 Cloudflare 全家桶搭一个 AI 原生邮件客户端 — ritakozlov · 2026-08-21