34M 参数小模型 Nerve-1 在 CPU 上做模型路由,号称省 30% 推理成本

saheedniyi_02 · x · 2026-10-15

trydecideAI 团队宣布完成从零训练的首个模型 Nerve-1：一个约 3400 万参数、用超过 230 亿 token 训练的轻量路由模型。

它的任务是智能路由——判断一个任务需要多少推理算力、该交给哪个模型，完全跑在普通 CPU 上，毫秒级做出路由决策。团队估计可将推理成本降低至少 30%，即将向其平台的全部企业和用户推出。路由小模型压成本是值得关注的工程方向，但 30% 的数字为团队自估，有待实测验证。