48M 参数模型实现精准工具调用，基于语法约束设计
Turbulent-Sky5396 · reddit · 2026-08-25
研究者通过围绕五个核心决策（拒绝或调用、工具选择、包含可选参数、值设定、停止或继续）设计分词器、损失函数和解码器，成功将工具调用能力压缩进一个 48M 参数的模型。
核心原理与效果：
- 该模型仅做工具调用，不生成闲聊文本。除五个决策点外，JSON 结构（括号、逗号、键名）完全由语法强制生成，不依赖模型。
- 可靠性提升：语法约束确保输出 100% 可解析，且无法调用未声明的工具，消除了最坏情况的失败模式。
- 精度表现：在训练集内的目录上，mobile actions 达 86.3%，droidcall 为 52.5%；未见过的目录降至约 28（主要失败在函数选择）。
项目细节：
- 提供 $56 成本的合成数据微调脚本，用于适配自定义目录。
- 主要弱点：双向可选参数、单 Schema 并行实例化、Java/JS 方言差异以及 768 token 的上下文限制。
- 仓库含 11 个负面实验结果（如 Span copying 失败等），极具参考价值。
所属事件:48M参数微型模型专攻Agent工具调用(2 条相关)→
「编程与Agent」频道最新
- Perplexity 开源支撑其 Computer 产品的智能体沙箱平台 SPACE — AravSrinivas · 2026-10-16
- Claude Opus 5.5 + Unity 6 完整教程：六步从空文件夹做出可玩游戏 — Roger_M_Taylor · 2026-10-16
- Marc Lou 公开安利 PostShiba：独立开发者的邮件基础设施新选择 — marclou · 2026-10-16
- RExBench 基准:最强编码 Agent 自主完成研究扩展成功率仅 33% — najoungkim · 2026-10-16
- 开发者把 Pstack skills 装进 Grok bot 与 Hermes agents — alexcovo_eth · 2026-10-16
- past.dev 推出 Agent 长期记忆 API,登顶 BEAM 公开记忆基准 — thisiskp_ · 2026-10-16