同名模型不同推理商,工具调用失败率差 15 倍
remilouf · x · 2026-11-17
dottxt 发布的 Tool-call Index 显示,同一个模型在不同推理服务商上的 agent 工具调用损坏率差异巨大。以 MiniMax M3.1 Flash 为例:在 Parasail(fp8) 上仅 0.10%,而在 SambaNova 上从 0.04% 恶化到部分服务商超过 10%(如 Wafer 的 nvfp4 量化达 10.28%)。
该指数基于每天约 340 万次工具调用、覆盖 12 家 MiniMax 推理服务商实测得出,同时列出各家的价格(约 $0.15/$0.60 每百万 token)、吞吐与在线率,每周更新。结论:给 agent 选模型时,推理服务商的量化与部署质量可能比模型本身更影响稳定性。
「编程与Agent」频道最新
- MIRIX-2.0 多智能体记忆系统登顶 LoCoMo,超最强基线 14.3 分 — _akhaliq · 2026-11-17
- 谷歌 11 月 10 日核心算法更新初期观察:YMYL 站点流量跌近 60% — gaganghotra_ · 2026-11-17
- 「No AI Slop Manifesto」签名破 660,OpenAI、SpaceX 员工在列 — Madisonkanna · 2026-11-17
- Nasiko 发布开源 Runtime 平台:压缩工具输出省 42% 输入 token — socialwithaayan · 2026-11-17
- 开源项目 OpenVorld:把 Claude Code 的 AI Agent 变成像素小镇居民 — Ok_Run_5401 · 2026-11-17
- 同一提示词横评:Claude、ChatGPT、Figma Make 生成储蓄 App UI — Tegadesigns · 2026-11-17