Baseten 首日上线四大开源模型,DeepSeek v4.1 Flash 跑出 668 tok/s
baseten · x · 2026-10-21
推理平台 Baseten 宣称本月所有主要开源模型均在平台首日上线,包括 DeepSeek v4.1 Flash、Reflection Beam 1.0、NVIDIA Nemotron Super 3.5 VL 和 Meta Muse Spark Open,且在 Artificial Analysis 基准与 OpenRouter 生产流量中均排名前二。附图显示 DeepSeek v4.1 Flash 在 Baseten 输出速度达 668 tok/s(FAST 档),远高于 Systalyze 的 340 和 DeepSeek 官方的 211;Beam 1.0 在 Baseten 达 532 tok/s,但价格为输入 $1.30/输出 $4.30 每百万 token,明显贵于 CoreWeave($0.30/$1.00);Nemotron Super VL 3.5 上 Baseten 545 tok/s 领先。核心卖点是“基准成绩不如生产环境稳定重要”。
所属事件:Baseten 零日上线多款主流开源模型,推理性能亮眼(2 条相关)→
「Infra」频道最新
- SpaceX 找遍其他云没囤到 GPU,出租算力吃 spot 涨价红利 — tengyanAI · 2026-10-21
- TiDB 数据泄露报告:凭据进 Jira 工单、4 年未修的根权限漏洞 — arpit_bhayani · 2026-10-21
- FireTrident:80 个编码 Agent 共享一个仓库,62 秒清零 Hono 958 条违规 — dinasaur_404 · 2026-10-21
- 传 xAI 因中国光模块受限,转向 ACC/AEC 与铜互连 — jwt0625 · 2026-10-21
- a16z 旧金山堆场爆满:fal、ElevenLabs 等谈推理系统扩展 — venturetwins · 2026-10-21
- Baseten 零日上线三款新开源模型,自称基准与生产流量双第一 — baseten · 2026-10-21