Baseten 发布 joey-1 决策模型:20ms 延迟,每百万 token 仅 1 美分

baseten · x · 2026-10-30

推理平台 Baseten（Base Labs）在 8 天前发布 mammoth-1（27B）和 elephant-1（9B）之后，推出家族最小成员 joey-1（2B），定位「最快最便宜的决策模型」：- P50 端到端延迟 20ms，比 elephant-1（49ms）快约 2.5 倍，号称比同类快 5 倍；- 价格 $0.01/百万 token，是 mammoth-1 的十分之一；- 官方称其 3B 以下参数中最强，支持文本与图像。决策模型不生成文本，而是直接输出单 token 答案加校准概率分，用于工单分派、内容标记、审批判断等场景，大幅压缩链式调用中的成本与延迟。