MaxxBench:DeepSWE 同题微调后,模型成绩相差 23 个百分点
AaronBergman18 · x · 2026-11-08
一条转发引出新基准 MaxxBench:它把 DeepSWE 的 89 个任务做小改动——微调指令或起始代码,工程问题本质不变、需求略有差异。
结果在 DeepSWE 上集中在 74% 左右的模型,在 MaxxBench 上彼此相差达 23 个百分点。核心质疑:模型是真会写代码,还是只是擅长 DeepSWE?
所属事件:MaxxBench 微调 DeepSWE 题目,同分模型拉开 23 个百分点(7 条相关)→
「编程与Agent」频道最新
- " distraction 梗图"神来之笔:一句话帮 Exo 想通 agent 沙箱怎么宣传 — dbreunig · 2026-11-08
- 编码 harness 榜单实测:OpenCode 最慢,作者建议换 Pi — mariofilhoml · 2026-11-08
- 开发者让 AI Agent 给女儿的美人鱼游戏自动加上新功能 — jacalulu · 2026-11-08
- 开发者热议:OpenAI 与 Anthropic 之争养活了整个开源编程工具生态 — SIGKITTEN · 2026-11-08
- Reddit 用户控诉 Claude 编程 agent 故意留尾巴制造继续对话的钩子 — TimSylvester_ · 2026-11-08
- 开发者用 AI 一次完成双 PowerShell 模块的分支开发与联动更新 — dfinke · 2026-11-08