48M 参数超小模型专门搞定 Agent 工具调用
Turbulent-Sky5396 · reddit · 2026-08-25
作者尝试用仅 48M 参数的微型模型专门处理 Agent 的工具调用，替代通常由大模型承担的任务。核心技巧是利用基于 schema 编译的语法来生成 JSON 结构，模型只负责回答有限的决策问题（如是否调用、选哪个工具），从而杜绝了格式错误和参数捏造问题。
- 效果：在训练过的函数集上，准确率比基线高 20+ 点（86.3 vs 63.7）；在未见过的函数集上与小基线持平，低于前沿大模型。
- 成本：构建总成本约 260 美元，开源并包含权重。
- 建议：提供脚本，花费约 56 美元合成数据即可将其微调适配到用户的私有 API。
所属事件:48M参数微型模型专攻Agent工具调用(2 条相关)→
「编程与Agent」频道最新
- VecturaKit 发布：基于 Swift 的端侧向量数据库，支持 MLX 加速 — rudrank · 2026-08-25
- Browser Use CLI 让 Hermes 智能体体验提升 10 倍 — intellectronica · 2026-08-25
- 神经符号系统 SUCCESSOR Ω：生成并演化可执行世界程序 — Ghost_Pilot_MD · 2026-08-25
- 审计 AI 事实核查工具：18 次引用就有 1 次是编造的 — jonathancheckwise · 2026-08-25
- 教程：在树莓派上运行 Hermes Agent — LeviTurk · 2026-08-25
- 反对 Vibe Coding 观点：单人在 2026 年开发 MMO — TAbrodi · 2026-08-25