Baseten 零日上线多款主流开源模型,推理性能亮眼

推理平台 Baseten 宣布本月所有主要开源模型均在平台首日上线,包括 DeepSeek v4.1 Flash、Reflection Beam 1.0 和 NVIDIA Nemotron 系列等。其中 DeepSeek v4.1 Flash 在平台上跑出 668 tok/s 的吞吐成绩。Baseten 同时自称在基准测试与生产流量两方面均居第一,强调其对新模型的快速支持能力。

2026-10-21 ~ 2026-10-21 · 2 条相关