阶跃 Step 5 Preview 上 GB300 跑出近 8K tokens/s,600B 开源权重

StepFun_ai · x · 2026-10-15

阶跃星辰官方转发 NVIDIA 祝贺,确认 Step 5 Preview 在 NVIDIA GB300 上表现强劲:这是该公司最大的开源权重发布,为一个 600B 参数的 MoE 模型,专为可持续运行最长 24 小时的 agent 任务设计。

性能方面,使用 NVFP4 精度在 GB300 上达到近 8K tokens/sec/GPU。NVIDIA 已提供 NVFP4 checkpoint,可通过 SGLang 或 vLLM 部署,用 NeMo Automodel 做后训练,也能用 NVIDIA NIM 一条命令运行。

所属事件:阶跃星辰开源 Step 5 Preview:600B 稀疏 MoE、1M 上下文(14 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →