Base Labs 发布 2B 决策模型 joey-1:20ms 延迟、百万 token 一美分
baseten · x · 2026-10-30
Base Labs 继 mammoth-1 (27B) 和 elephant-1 (9B) 后发布第三款开源决策模型 joey-1 (2B)。要点:- 决策模型不走文本生成,直接返回单 token 答案加校准概率分数,适合工单分派、消息标记、请求审批等场景 - P50 端到端延迟 20ms,约为 elephant-1 (49ms) 的 2.5 倍快,比同级决策模型快 5 倍 - 定价 $0.01/百万 token,是 mammoth-1 的十分之一 - 宣称是 ≤3B 参数中最强决策模型,支持文本与图像输入 - 可通过其 Model APIs、专用部署使用,并提供在 Training Jobs 上微调的 cookbook。
所属事件:Baseten 开源 2B 决策模型 joey-1:20ms 延迟、每百万 token 一美分(5 条相关)→
「Infra」频道最新
- 分析师看衰 Intel 预测:PC 市场要到 2027 下半年也难回暖 — BenBajarin · 2026-10-30
- Epoch AI:全球 AI 算力增速放缓至每年 2.5 倍,约 9 个月翻一番 — Jsevillamol · 2026-10-30
- Cerebras 工程拆解:万亿参数模型如何塞进晶圆级芯片集群 — ceciletamura · 2026-10-30
- Crusoe 以 310 亿美元估值融资:从油田烧气挖矿到 AI 数据中心 — nathanbenaich · 2026-10-30
- AWS 年化营收达 1840 亿美元,同比增长 39.3% — RihardJarc · 2026-10-30
- 美国数据中心与计算机投资超住房建设 50%,成第一大投资类别 — HaydnBelfield · 2026-10-30