48M 参数超小模型专门搞定 Agent 工具调用
Turbulent-Sky5396 · reddit · 2026-08-25
作者尝试用仅 48M 参数的微型模型专门处理 Agent 的工具调用，替代通常由大模型承担的任务。核心技巧是利用基于 schema 编译的语法来生成 JSON 结构，模型只负责回答有限的决策问题（如是否调用、选哪个工具），从而杜绝了格式错误和参数捏造问题。
- 效果：在训练过的函数集上，准确率比基线高 20+ 点（86.3 vs 63.7）；在未见过的函数集上与小基线持平，低于前沿大模型。
- 成本：构建总成本约 260 美元，开源并包含权重。
- 建议：提供脚本，花费约 56 美元合成数据即可将其微调适配到用户的私有 API。
所属事件:48M参数微型模型专攻Agent工具调用(2 条相关)→
「编程与Agent」频道最新
- 实测称编码 Agent 成功率一半靠运气:各模型随机性达 32%-52% — micahgoldblum · 2026-10-15
- 发推晒 agent 免提示词生成的每日情绪打卡小应用 — alifcoder · 2026-10-15
- Cloudflare 一夜 $10,811 账单：退款靠运气，刹车得自己装 — sujingshen · 2026-10-15
- Hermes Agent 自行为独居爷爷搭建本地家庭安防系统 — NousResearch · 2026-10-15
- Ben Tossell 播客:非技术人如何用 Agent 上线生产代码 — msg · 2026-10-15
- decomp.dev 关停:新一代模型让反编译匹配从数年缩到数天 — banteg · 2026-10-15