16GB Mac 跑 14 个本地决策模型,实测 Wald 准确率最高
WolframRvnwlf · x · 2026-10-14
作者在 16GB 内存 Apple M4 Mac mini 上实测了 14 个本地决策模型(经两种运行时共 15 种配置),用于 agent 任务。
- 测试用两组冻结的德/英合成数据集:96 例工具/动作选择与证据判断、192 例邮件路由与紧迫度判定,留出测试集分别为 72 和 144 例
- Wald 模型合成准确率最高;H2O 准确率接近但更快
- 在真实邮件上对比 4 个候选后,Wald 成为判断「某个被追踪步骤是否完成」的首选
- 结论:小模型本地分类器的置信度不应直接授予 agent 行动权限
「编程与Agent」频道最新
- 用 AI 做游戏先搭 graybox:先验证手感再并行生成美术资产 — chongdashu · 2026-10-14
- Vercel 上线 Gemini 4 Argon 首发模型,12 月前五折,rauchg 盛赞 Google — AccBalanced · 2026-10-14
- 开发者分享自定义斜杠命令组合:先原型后构建的 compound engineering 流程 — kieranklaassen · 2026-10-14
- Kevin Rose 盛赞 Claude Projects beta:子智能体编排体验前所未见 — joellewenstein · 2026-10-14
- 用 Haiku 线程当讨论层,避免 Orchestrator 上下文被撑爆 — kevinkern · 2026-10-14
- 人人都该有定制化 agentic 编码环境了吗?Reddit 引发讨论 — dominic_l · 2026-10-14