Base Labs 发布 2B 决策模型 joey-1,延迟 20 毫秒成本一美分

baseten · x · 2026-10-30

Baseten 开源第三个决策模型 joey-1(2B)，主打速度与成本：官方称 P50 端到端延迟 20 毫秒(约 2000 token 请求，比 elephant-1 快 2.5 倍)，价格 $0.01 每百万 token，仅为 mammoth-1 的十分之一。

决策模型不做文本生成，而是对「工单该路由到哪、消息是否该标记、请求是否批准」这类问题直接输出单个 token 加校准概率，大幅降低链式决策中的成本与延迟。joey-1 支持 text 与图像输入，可在 Baseten Model APIs、专属部署上使用，并附微调 cookbook。官方内部测试称其为 3B 以下参数中最强决策模型。