微软推LoopsBench评测长周期Agent,当前最佳仅解25%任务
机器之心 · wechat · 2026-08-22
微软联合南京大学推出LoopsBench,一个面向长周期软件工程的Coding Agent评测基准。传统基准如SWE-bench侧重一次性任务解决,而LoopsBench关注Agent在持续执行、多任务依赖与代码回归控制上的表现。
核心创新:
- Dependency DAG:将长周期任务拆解为多个可验证的Development Unit,并根据真实代码调用或继承关系构建依赖有向无环图(DAG),不再只看最终结果,而是评估执行路径是否合理。
- Flow-aware Runtime:评测器仅评测依赖已满足(处于Ready Frontier)的任务;已完成的单元会转化为Regression Obligation,迫使Agent在后续开发中保护既有功能。
- 数据来源:包含112个任务、5300个开发单元,源自大学课程实验、连续的GitHub PR序列及研究代码演化。
实验发现:
- 即便最佳配置,任务完整解决率(Resolve Rate)仅为25%,测试通过率53.05%。
- 引入外部循环(Continuation)可将解决率从约17%提升至25%,但无法解决深层依赖推进问题。
- 现有Agent在规划层面常无法完整恢复任务依赖关系,容易将并行任务压成线性链,或过早并行化本应串行的任务。
「编程与Agent」频道最新
- 三步把 Claude Code/Codex 接入 iMessage 的教程 — jacob_posel · 2026-10-16
- 最快的 GPU kernel 会被 AI 写出来吗?发帖人称验证条件近乎完美 — fleetwood___ · 2026-10-16
- Anthropic 工程主管的四问 prompt,让 Agent 更有野心 — daniel_mac8 · 2026-10-16
- ChainForge 作者晒「特色地图」:用子 agent 分头开发大型 PR — IanArawjo · 2026-10-16
- aiDotEngineer 实测多种 Agent 编排管线,人类扮演 Foreman 调度五角色 — vikvang1 · 2026-10-16
- 用 Claude Code + Hyperframes 两小时量产 200 条视频 — mcraddock · 2026-10-16