Solar Open 2 预训练把 20T token 压到 10T，并扩到 1M 上下文
keunwoochoi · x · 2026-07-26
- 这条主要讲 Solar Open 2 的预训练流程：先从 Solar Open 1 做选择性权重迁移，再走大约 12T token 的三阶段训练。
- 数据侧从最初清洗过的 20T token 池进一步压缩到 10T，会给数据打质量分、去重，并调整混合比例，让真实数据、代码、数学和英语占比更高。
- 第 4 阶段把上下文扩到 1M tokens；作者还提到在长上下文扩展时性能有回落，因此通过 checkpoint merge 做了补偿。
所属事件:Upstage 发布 250B 主权大模型 Solar Open 2(6 条相关)→
「模型」频道最新
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11