容器内存配置左右 Agent 评测:同一 Claude 跑分差 6 个百分点
krishnan · x · 2026-11-05
krishnan 指出 Agent 的 benchmark 成绩可能取决于容器何时被杀掉,并援引 Anthropic 二月的工程研究说明同一模型、同一 harness、同一 Terminal-Bench 2.0 任务,仅改变资源配置就带来显著差异。
- 机制:容器有保底资源配额和硬性 kill 上限,两者设成同值时,一次瞬时内存尖峰就可能杀掉本可成功的任务;严格设置下 5.8% 的任务触发 infra 错误。
- 1x→3x 余量:infra 错误率降到 2.1%,成功率变化在噪声内(p = 0.40),评测更稳定但并没有变容易。
- 超过约 3x 后:宽松资源让 Agent 拉取重型依赖、启动昂贵子进程、跑内存大户测试套件,infra 错误率再降 1.6 个百分点。
结论:跑 Agent benchmark 时资源配置本身就是一个隐变量,对比不同成绩前得先看容器怎么配。配图是作者自绘的讽刺漫画「Same model, bigger box」。
「编程与Agent」频道最新
- Claude Code 速查表:CLAUDE.md、Skills、MCP 与最佳工作流 — nikola_mr64990 · 2026-11-05
- Bobby Iliev《Docker 入门》开源电子书上线,可配 AI 导师阅读 — burkov · 2026-11-05
- 开源 CloudOpsBench:45 个真实场景测 AI 云运维智能体 — DarkMG1 · 2026-11-05
- 同一 AI 造关卡流程第四五步:先试玩验证,再用 GPT Image 批量出概念图 — FinanceYF5 · 2026-11-05
- 24小时用 AI 做出完整原创游戏:Opus+Flux+Tripo 全流程公开 — FinanceYF5 · 2026-11-05
- 团队称产品设计 100% 由 Claude 自动化,数月未碰 Figma — manosaie · 2026-11-05