MaxxBench:微改任务格式,编码 Agent 成绩骤差 23 分

MFarajtabar · x · 2026-11-15

notesbydev 发布 MaxxBench 研究线索:六种编码 agent 配置在 DeepSWE 基准上得分相差不到 1.5 分(约 74%),但仅对任务做微小改动(如文件名改小写、要求 UTC 时间戳)后,分差拉开到 23 分。

该研究呼应一系列此前工作,指出基准分数混合了两种因素:你真正关心的能力,以及与特定任务格式的契合度。作者进一步讨论了这对基于分数选型、构建和监管模型的人意味着什么。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →