Mercor 发布 OWE-Bench:26 个真实工程项目考倒编码 Agent

ben_burtenshaw · x · 2026-11-13

Mercor 推出长程工程基准 OWE-Bench:26 个由硕士/博士级领域专家设计的完整工程项目,覆盖 GPU kernel、CAD、飞行器设计等 4 个领域,单次尝试 4–18 小时、平均消耗 1.24 亿 token,测试 Agent 端到端完成真实工程的能力。

榜单前三(26 任务、每模型 8 次尝试的归一化均分):

其他值得注意的结果:GPT-6.1 Sol 41.2%、Claude Sonnet 5.5 39.0%、Gemini 4 Carbon 32.8%;Kimi K3.1 仅 13.6%、DeepSeek V4.1 Flash 12.4%、GLM-5.3 11.8%,Grok 4.7 只有 7.0%。

基准完全开源:16 个任务提供公开 grader 可自行运行评分,10 个任务 grader 保留私有(含基于私有飞行模拟器的 Design/Build/Fly Aircraft);数据集发布在 Hugging Face,任务以 Harbor 格式托管在 GitHub。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →