Claude Code 通过 MCP 委派 4 家模型,并跑了 198 次隐藏测试
MeetStraight1899 · reddit · 2026-07-21
我做了一个 MCP server,让 Claude Code 可以把任务委派给 GPT-5.6、DeepSeek、GLM 和本地 Qwen,再用 198 次运行和隐藏测试集去对比它们与 Claude 自身的表现。
- 这个 server 只暴露两个工具:listmodels 和 delegatetask,但足以让任何支持 MCP 的 agent 做多模型分发。
- 路由包括:通过 Codex CLI 调用 GPT-5.6、通过 z.ai 的 coding plan 调用 GLM、通过 LM Studio 在局域网里调用本地 Qwen。
- 测试设计为 6 个任务站点 × 11 个模型 × 3 轮,并且 graders 在委派前就已写好。
- 结果显示:单轮结果会骗人,有些“完美表现”其实只是偶然;而某些弱点则在多轮里反复出现。
- 文中称 GPT-5.6 Codex 家族在全部技术站点上拿到 54/54 的满分记录。
核心结论是:作为编排器,Claude 能外包的任务比想象中多,但前提是你要用重复、隐藏测试来验证,而不是看一次跑通就下结论。
所属事件:多模型编程Agent实测:廉价模型败于知识陈旧(2 条相关)→
「编程与Agent」频道最新
- theo 公开个人 Claude skills 栈,Garry Tan 喊话「公布你的技术栈」 — ycombinator · 2026-10-26
- Hugging Face 六个月 Training Agents 系列收官,全部录像与代码开源 — SergioPaniego · 2026-10-26
- Agent 成功完成任务的背后:验证器只查了「有没有点击」导致重复投票 — TejasKumar_ · 2026-10-26
- diginomica 周报:agentic 自动化被高估,agent 攻防「The Hackening」已开始 — jonerp · 2026-10-26
- 「氛围验证」研究:近 60% 的形式化证明证明的不是作者本意 — basedjensen · 2026-10-26
- Devin 推出安全工具线,由 Claude Mythos 驱动并送数亿美元额度 — DevinAI · 2026-10-26