MCP工具选择瓶颈新分析
Inevitable_Fee1895 · reddit · 2026-07-13
这条讨论聚焦 MCP 工具选择在工具数量变多后为何失准,核心结论是:单靠检索式预筛选只能修补一部分问题,真正的瓶颈可能在模型读出阶段。
要点:
- 业界经验里,工具数超过约 20 个后,agent 的工具选择准确率会明显下降。
- 常见做法是先对工具目录做 RAG 检索,再把短名单交给模型;相关论文显示这样能显著提升准确率并减少 prompt token。
- 但新论文指出,输入侧修补的上限很早就出现了:
- 在真实 BFCL 失败样本里,模型多数时候其实会把注意力放到正确工具上;
- 重新排序工具、重复正确工具等输入侧干预,最多只修复约 23% 的失败;
- 而在读出侧做 attention bias 或 residual steering,能修复 59%–91% 的失败。
- 作者还给出一个无需标注、无需 gold tool 的 selector:用分段 attention 作为置信度门控,在 BFCL 和 Seal-Tools 上都提升了函数名准确率。
原帖观点是:检索仍然值得做,因为它能降成本、降延迟;但如果只靠 retrieval 和工具描述优化,可能已经碰到上限,下一步更值得看读出层、logit processor、约束解码或外部重评分。
「编程与Agent」频道最新
- 用 $28 算力让模型给自己造 copilot:他的新模型个人基准 — bucolucas · 2026-10-27
- Agent 中途改计划该被允许吗:真实系统介入时的边界之辩 — wistfulcracker84 · 2026-10-27
- HeyGen 联手 Canva:幻灯片讲者备注自动变数字人讲解视频 — HeyGen · 2026-10-27
- 隐私场景实测:本地 Qwen 3.8 FN 不输云端前沿模型还更快 — dr_lm · 2026-10-27
- Cloudflare Computer 支持 agent 中断恢复,可跳过已完成的非幂等请求 — irvinebroque · 2026-10-27
- LLM Tails 实测省 80% 输入 token:先读后写约束 agent 编码 — savadks1818 · 2026-10-27