阶跃星辰开源 Step 5 Preview：600B MoE、百万上下文

阶跃星辰开源 Step 5 Preview 模型权重并发布架构与训练博客。该模型为 600B 总参数的稀疏 MoE，每 token 激活 27B，原生支持文本+视觉多模态，主打通用长程 Agent 任务，具备 1M token 上下文能力。其核心的 Sparse GQA 稀疏注意力机制通过块合并将索引器开销降低 8 倍。

2026-10-15 ~ 2026-10-15 · 2 条相关