Deepnote 模拟公司测 12 个前沿模型:主动性代理基准发布
heyshrutimishra · x · 2026-11-13
Deepnote Research 发布 Agent Initiative Benchmark:他们搭建并开源了一家合成公司 PageMantle(含 CRM、产品分析、计费、数据仓库、issue tracker、文档等真实工具栈),让 12 个前沿模型在其中潜伏观察,针对 50 个职场情境测试「不请自来的主动帮助」能力——即从对话未提及的系统中收集证据、判断是否需要介入、以及该由谁以何种方式接收帮助。
排名要点(0-10 分):GPT-6 Astra 以 8.97 居首(每任务 $0.693),GPT-6.1 Sol 8.65、Claude Fable 5.2 8.17 紧随其后;Claude 系在速度上占优;最便宜的 GPT-6 Luna 每任务仅 $0.007 但得分 6.38,超过 Mistral Large 4、Gemini 4 Argon 和垫底的 Grok 4.7(4.51)。
作者指出:主动性是代理的下一个前沿,但企业自有数据太敏感无法公开跑分,因此用合成公司作为公共基准,供选型和自建主动代理的团队参考。
所属事件:Deepnote发布Agent Initiative基准:0.11美元模型胜最贵模型(3 条相关)→
「编程与Agent」频道最新
- Nursa 会计与假释官用 AI 自建工具,160 人人都是开发者 — every · 2026-11-14
- 前 Q&A bot 负责人长文:用户不需要更多聊天机器人 — threepointone · 2026-11-14
- Nexus 发布:用知识图谱统一管理部署上下文供 Agent 查询 — rohanpaul_ai · 2026-11-14
- 从 25% 到 100%:开发者把全部 agent 工作流搬进 Mac Mini 本地跑 — josh_bickett · 2026-11-14
- 月下载 2000 万的 Mediabunny 靠 LLM 抓虫,一次发布 400 项修复 — Vjeux · 2026-11-14
- 截图曝光 Perplexity Teammates 实际工作方式:接 Datadog、读 PR、值夜班 — testingcatalog · 2026-11-14