Solar Open 2 从 1 代复用 5.69B 权重，再重训专家层
keunwoochoi · x · 2026-07-26
- 这条解释了 Solar Open 2 的选择性权重迁移：结构兼容的部分从 Solar Open 1 复用，不兼容的新模块则重新初始化。
- 图表显示，最终被迁移的参数合计约 5.69B，只占 250B 总量的一小部分；而大多数新初始化参数都落在 routed experts 上。
- 文中还列出了哪些部分会迁移、哪些会随机初始化，包括 embedding、归一化层、attention 投影、shared expert 和新的 expert 池。
所属事件:Upstage 发布 250B 主权大模型 Solar Open 2(6 条相关)→
「模型」频道最新
- Meta Muse Spark 1.3 系统卡采用图宾根 4 项评测基准 — maksym_andr · 2026-10-27
- ChatGPT Pro 500 套餐曝光：月费 445 英镑，周额度已用 91% — yoimnotkesku · 2026-10-27
- 学者争论：现行 LLM 远超 GPT-4，但期刊审稿延迟挡住了新模型 — DeryaTR_ · 2026-10-27
- OpenAI 发布 Terra 遭社区失望：实验室内部与公开模型差距拉大 — ChrisGPT · 2026-10-27
- Claude 被喂「物理穿帮」AI 视频：自动算 CFD 修复后重渲染同场景 — OfirPress · 2026-10-27
- Meta TBD 模型发布前获 5 家第三方红队安全测评 — maksym_andr · 2026-10-27