Deepnote 模拟公司测 12 个前沿模型:主动性代理基准发布

heyshrutimishra · x · 2026-11-13

Deepnote Research 发布 Agent Initiative Benchmark:他们搭建并开源了一家合成公司 PageMantle(含 CRM、产品分析、计费、数据仓库、issue tracker、文档等真实工具栈),让 12 个前沿模型在其中潜伏观察,针对 50 个职场情境测试「不请自来的主动帮助」能力——即从对话未提及的系统中收集证据、判断是否需要介入、以及该由谁以何种方式接收帮助。

排名要点(0-10 分):GPT-6 Astra 以 8.97 居首(每任务 $0.693),GPT-6.1 Sol 8.65、Claude Fable 5.2 8.17 紧随其后;Claude 系在速度上占优;最便宜的 GPT-6 Luna 每任务仅 $0.007 但得分 6.38,超过 Mistral Large 4、Gemini 4 Argon 和垫底的 Grok 4.7(4.51)。

作者指出:主动性是代理的下一个前沿,但企业自有数据太敏感无法公开跑分,因此用合成公司作为公共基准,供选型和自建主动代理的团队参考。

所属事件:Deepnote发布Agent Initiative基准:0.11美元模型胜最贵模型(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →