TestSuiteBench:编码 Agent 写得出代码却写不出好测试
ETH 研究者(Martin Vechev 组等)发布 TestSuiteBench 基准,给编码 Agent 提供真实开源应用的规格说明(涵盖 165 个 Rust/Go/C/C++ 应用),让其生成测试套件。结果显示,前沿编码 Agent 虽能从零写出整个软件代码库,但生成的测试大多只能在参考实现上通过,抓不住一半以上的逻辑缺陷,暴露出测试生成能力的明显短板。
2026-10-12 ~ 2026-10-13 · 2 条相关
- TestSuiteBench:前沿编码 Agent 生成的测试套件抓不住一半以上逻辑缺陷 — OfirPress · 2026-10-12
- TestSuiteBench:编码 Agent 能写代码却写不出能抓 bug 的测试 — lbeurerkellner · 2026-10-13