Meta 训练 8B 小模型选工具,胜过 402B 的 Llama-4-Maverick
dair_ai · x · 2026-10-23
Meta 与 CMU 的论文《Training Small Language Models for Transferable Tool Selection》研究超万级工具规模下的工具选择问题:此时工具描述放不进上下文,检索器只能按相关性排序、不知道指令真正需要哪些工具,许多系统只好把这一步交给 Claude/ChatGPT 等专有模型。
他们用 Plan-Retrieve-Select 工作流训练 Qwen3 模型:模型先把指令拆成子步骤,检索器为每步返回候选,模型再逐步确定工具。训练采用约 2 万条精选 ToolBench 指令做 SFT,再用 RL 强化,奖励按覆盖金标工具的数量与排名打分。
在 ToolBench G3 上,Qwen3-8B 从 SFT 后的 36.2% 提升到 RL 后的 41.5%,超过被 prompt 的 Llama-4-Maverick(402B),且训好的模型可直接迁移到不同检索器和新领域工具集。
「编程与Agent」频道最新
- Figma MCP Server 一键把设计稿转成像素级一致的 React 代码 — modelcontextprotocol · 2026-10-23
- Gemini 4 Argon 用一张图加 Blender MCP 造出 3D 哥特教堂 — GoogleDeepMind · 2026-10-23
- Reddit 热帖:你的 Agent 卡死后,你花钱雇人做了哪些活? — Aggressive-Buyer8583 · 2026-10-23
- 开源 claim MCP:字符串匹配验证引用,假引用当场标红 — BondableColt18 · 2026-10-23
- 用 AI 智能体攻破 macOS 内核:XNU 漏洞利用实战演讲 — moyix · 2026-10-23
- 比特币支付 SDK Wavelength 上主网,人和 AI Agent 可互发比特币 — RSync25 · 2026-10-23