Muse 新模型亮相 ProgramBench:从二进制重建程序,最强模型近乎全灭
jyangballin · x · 2026-10-13
Muse 团队成员 jyangballin 宣布 Muse Wonder 参与 ProgramBench 评测,并称 Muse "非常擅长编码",本周晚些时候榜单上的 % resolved 数字会"令人震惊"。
ProgramBench 是什么:由 Meta Superintelligence Labs、斯坦福和哈佛推出的新基准,考验 agent 仅凭编译后的二进制和文档,从零架构并实现一个完整代码库来复现原程序行为,共 200 个任务,用隐藏行为测试判定。
榜单现状(截至今日):
- Claude Opus 5 (xhigh) 以 4.5% fully resolved、37.0% almost resolved 居首,但单任务成本高达 $50.53
- Muse Spark 1.3 (max) 2.5% / 25.0%,成本仅 $6.46,性价比突出
- GPT-5.6 Sol、GPT 5.5、Gemini 3.6 Flash 等几乎全部低于 1% fully resolved
配图对比:在 DeepSWE 1.1(79.0)和 SWE-Marathon(57.5)上 Muse Wonder Full 领先 Claude Fable 5.1 与 GPT-6 Astra,但 ProgramBench(59.0 vs 70.5)和 Artificial Analysis Index 仍落后于 Claude Opus 5.5。
整体信号:即便顶级模型,在"从二进制逆向重建完整程序"这类超长程任务上完全解决率仍是个位数百分比,空间巨大。
所属事件:Muse Wonder 模型亮相 ProgramBench 编程评测(2 条相关)→
「模型」频道最新
- Meta AI 负责人转赞 Muse Wonder Full Max:可能是当今最强模型 — alexandr_wang · 2026-10-13
- 扎克伯格官宣:Muse Wonder 驱动 Muse,订阅即刻可用 — iamaliveix · 2026-10-13
- Nace AI 推出 35B 决策模型 Drex 2.0,3B 激活参数超越 Jev — techNmak · 2026-10-13
- Musk:xAI 数字 Optumius 已能像人一样看屏幕打通暗黑破坏神半程 — RebeccaBellan · 2026-10-13
- Muse Code 额度误耗,Meta 首席 AI 官确认 bug 并将重置用量 — alexandr_wang · 2026-10-13
- Muse Spark 上线即耗尽额度,Matthew Berman 晒报错截图 — MatthewBerman · 2026-10-13