Failure Map 发布:20168 个 Python 边界 Bug 修复任务

failuremap-f · reddit · 2026-10-02

Failure Map 是一个新的 Python 调试任务档案库,开放版本包含 20,168 个任务、254 个类别,每个任务带标准库实现、明确契约、失败的修复尝试和可执行的边界检查,可用于评测编码模型的修复能力。

作者给出三个示例:去重时丢失合法事件、缓存过期时间多减一整格、分页游标把 > 写成 >= 导致重复记录。并附上统一的 prompt 模板:「修复 solve 函数以满足契约,只返回 Python 源码,保持签名不变」。

作者强调评测规范:报告需注明模型与 revision、量化方式、prompt、采样设置、seed、每任务尝试次数和通过数;候选代码应在隔离环境运行,评分 fixture 不受其控制。目前已公布程序基线(通过检查数/3),尚无本地模型实测结果。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →