ProgramBench:让智能体从二进制逆向重建 FFmpeg 级软件

nouhadziri · x · 2026-10-14

作者介绍评测基准 ProgramBench:agent 只拿到程序二进制和文档,没有源码,需要运行二进制、推断其行为,然后从零重建 jq、SQLite、FFmpeg 等真实软件。

任务非常难——在 FFmpeg 上,排行榜最强的 agent 也只能通过约 10% 的测试。这解释了为何该基准能区分团队的探索与规划能力。

所属事件:智能体团队扩展研究:分工位置比数量更关键(14 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →