Base Labs 发布 2B 决策模型 joey-1:20ms 延迟、百万 token 一美分

baseten · x · 2026-10-30

Base Labs 继 mammoth-1 (27B) 和 elephant-1 (9B) 后发布第三款开源决策模型 joey-1 (2B)。要点:- 决策模型不走文本生成,直接返回单 token 答案加校准概率分数,适合工单分派、消息标记、请求审批等场景 - P50 端到端延迟 20ms,约为 elephant-1 (49ms) 的 2.5 倍快,比同级决策模型快 5 倍 - 定价 $0.01/百万 token,是 mammoth-1 的十分之一 - 宣称是 ≤3B 参数中最强决策模型,支持文本与图像输入 - 可通过其 Model APIs、专用部署使用,并提供在 Training Jobs 上微调的 cookbook。

所属事件:Baseten 开源 2B 决策模型 joey-1:20ms 延迟、每百万 token 一美分(5 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →