48M 参数模型实现精准工具调用，基于语法约束设计
Turbulent-Sky5396 · reddit · 2026-08-25
研究者通过围绕五个核心决策（拒绝或调用、工具选择、包含可选参数、值设定、停止或继续）设计分词器、损失函数和解码器，成功将工具调用能力压缩进一个 48M 参数的模型。
核心原理与效果：
- 该模型仅做工具调用，不生成闲聊文本。除五个决策点外，JSON 结构（括号、逗号、键名）完全由语法强制生成，不依赖模型。
- 可靠性提升：语法约束确保输出 100% 可解析，且无法调用未声明的工具，消除了最坏情况的失败模式。
- 精度表现：在训练集内的目录上，mobile actions 达 86.3%，droidcall 为 52.5%；未见过的目录降至约 28（主要失败在函数选择）。
项目细节：
- 提供 $56 成本的合成数据微调脚本，用于适配自定义目录。
- 主要弱点：双向可选参数、单 Schema 并行实例化、Java/JS 方言差异以及 768 token 的上下文限制。
- 仓库含 11 个负面实验结果（如 Span copying 失败等），极具参考价值。
所属事件:48M参数微型模型专攻Agent工具调用(2 条相关)→
「编程与Agent」频道最新
- Grok Build 发布 VS Code 扩展，支持手机远程控制 — PawelHuryn · 2026-08-25
- 活动预告：从零构建带检索后端的 AI 智能体 — hugobowne · 2026-08-25
- Alchemy AWS 模拟器补丁发布，修复 Floci 缺口 — samgoodwin89 · 2026-08-25
- Google ADK 新功能：支持语音 Agent 实时评估 — rseroter · 2026-08-25
- Merge Agent Handler 新增 Warp、Luma 等三个连接器 — shensi · 2026-08-25
- 仅靠模糊 Prompt 无法从头构建新软件 — zeeg · 2026-08-25