MCP工具选择瓶颈新分析
Inevitable_Fee1895 · reddit · 2026-07-13
这条讨论聚焦 **MCP 工具选择在工具数量变多后为何失准**,核心结论是:单靠检索式预筛选只能修补一部分问题,真正的瓶颈可能在模型读出阶段。 要点: - 业界经验里,工具数超过约 20 个后,agent 的工具选择准确率会明显下降。 - 常见做法是先对工具目录做 RAG 检索,再把短名单交给模型;相关论文显示这样能显著提升准确率并减少 prompt token。 - 但新论文指出,**输入侧修补的上限很早就出现了**: - 在真实 BFCL 失败样本里,模型多数时候其实会把注意力放到正确工具上; - 重新排序工具、重复正确工具等输入侧干预,最多只修复约 23% 的失败; - 而在读出侧做 attention bias 或 residual steering,能修复 59%–91% 的失败。 - 作者还给出一个**无需标注、无需 gold tool** 的 selector:用分段 attention 作为置信度门控,在 BFCL 和 Seal-Tools 上都提升了函数名准确率。 原帖观点是:检索仍然值得做,因为它能降成本、降延迟;但如果只靠 retrieval 和工具描述优化,可能已经碰到上限,下一步更值得看读出层、logit processor、约束解码或外部重评分。