阶跃 Step 5 Preview 开源:600B/27B MoE、1M 上下文,SGLang 零日支持
BanghuaZ · x · 2026-10-16
阶跃星辰发布旗舰模型 Step 5 Preview 并开放权重(BF16 与 FP8 已上 Hugging Face 和 ModelScope):
- 稀疏 MoE:总参数 600B,每 token 激活 27B
- 1M token 上下文窗口,原生文本+图像输入
- 定位长程 agentic 工作:编码、软件工程、专业知识工作与金融
推理框架 SGLang 提供零日支持,并披露生产环境实测数据:在 4×GB300(TP4)、MTP 接受长度 2.85 下,FlashInfer TRT-LLM MoE 单请求解码约 299 tokens/s;MegaMoE 在 64 并发下达每 GPU 约 740 output tokens/s。采用混合注意力(近期窗口+精选历史,无需每层读全历史)、MTP 解码与缓存感知路由。其 RL 框架 Miles 同步支持零日 RL 训练,演示了 79 步 GRPO 训练。
所属事件:阶跃星辰开源 Step 5 Preview：600B MoE、1M 上下文(18 条相关)→
「Infra」频道最新
- Polymarket 开出 28% 概率：年内将有美国州级数据中心禁令落地 — Polymarket · 2026-10-16
- 宾州居民拒绝每户 1 万美元补偿，抵制亚马逊大型数据中心进驻 — Polymarket · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash-Next FP4 本地版，采用新无损压缩格式 — TheZachMueller · 2026-10-16
- PyTorch 原生跑上 AWS Trainium，零代码改动 — PyTorch · 2026-10-16
- 业内爆料：中国实验室算力仅美国 1/10，字节 2-4 倍价扫东南亚算力 — robleclerc · 2026-10-16
- GPU 优化公司 Zymtrace 融资 1220 万美元，招 ML 工程师打造自主调优 Agent — cfregly · 2026-10-16