WMO 推出模型路由器,称可把 agent 成本降 40%+
SilenN · hn · 2026-07-27
World Model Optimizer 发布了 wmo serve,主打把重复任务路由给蒸馏后的更小模型,在尽量保持前沿模型质量的同时,把成本压到大约一半。
主要功能
- 基于开源模型对专用模型持续蒸馏
- 在前沿模型与自定义小模型之间做任务路由
- 进行 token 压缩,去掉噪声、节省上下文成本
它会接入你已经采集到的 agent traces 和 OpenRouter key,在本地起一个兼容 OpenAI 的 endpoint,然后自动判断哪些请求交给前沿模型、哪些交给更便宜的专用模型。官方还提供托管版,声称可在 40%+ 更低成本下运行,并随新 traces 持续自我改进。
「Infra」频道最新
- OpenAI 年化收入或已达数百亿美元,5000 亿计划未必夸张 — firstadopter · 2026-07-27
- 传 Nvidia 考虑为 OpenAI 10 吉瓦数据中心提供 2500 亿美元担保 — firstadopter · 2026-07-27
- MiniBot 2.40 新增 xAI、HF Studio 和 vLLM 支持 — Creative-Type9411 · 2026-07-27
- 苹果智能眼镜、英伟达SK合作与携程51.79亿罚单汇总 — APPSO · 2026-07-27
- QuixiCore 主张原生量化内核取代先反量化再执行 — QuixiAI · 2026-07-27
- Nvidia 被曝洽谈为 OpenAI 俄亥俄数据中心提供 2500 亿美元背书 — Wonderful_Buffalo_32 · 2026-07-27