Not Diamond 提出评估 Agent 模型路由的新基准

rohanpaul_ai · x · 2026-09-02

Not Diamond 发布了一篇关于评估 AI 智能体模型路由的交互式基准方法文章。文章指出,传统的单轮路由和首轮路由在长 horizon 的 agent 工作负载中存在效率低下和脆弱性问题,因为它们无法有效处理 KV 缓存或中途的任务复杂性变化。Not Diamond Code 采用了一种新颖的路由技术,通过预测每一步的未来奖励和成本,以缓存感知的方式做出推荐,考虑了会话状态、任务复杂度和 KV 缓存状态等因素。文章还分享了他们提供给客户的基准测试工具。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →