DigitalOcean 开源基于偏好的模型路由技术
AI Engineer · youtube · 2026-08-22
Archana Kamath 与 Tyler Gillam 介绍了基于偏好而非基准测试的模型路由方案。演示显示，在完成相同任务时，动态路由会话成本仅需 8 美分，而单一顶级模型需 25 美分，且随着请求增加差距扩大。
核心观点：
- 不存在单一最佳模型，只有针对特定请求、系统提示、工具、成本和延迟需求的合适模型。
- 路由器接受自然语言或决策树规则定义的偏好，并在每次请求时执行。
技术细节：
- 基于 MoE 模型构建，决策延迟低于 200 毫秒，无额外成本。
- 评测显示路由正确率达 90%（单一顶级模型为 95%），但使用更少 Token 且更快。
- 代理与路由器均已开源，无需修改代码即可接入。
「编程与Agent」频道最新
- Self Labs 推出 Agent Vault，让智能体安全登录并刷信用卡 — EXM7777 · 2026-10-16
- Plane Agents：触发器才是把聊天机器人变成工作流 Agent 的关键 — JosephJacks_ · 2026-10-16
- Teknium 发布 Hermes Agent 官方插件：一键逆向分析任意应用 — alexcovo_eth · 2026-10-16
- Claude 工程负责人写教程：教你用 AI 敢想敢做更宏伟的事 — danshipper · 2026-10-16
- Qwen Code Desktop v0.25.2 发布：managed-agent 稳定性与 MCP 配置修复 — github-actions[bot] · 2026-10-16
- NVIDIA 7 门 AI Agent 课程免费开放，2026 年不必花钱报班 — ifioknkem · 2026-10-16