Solar Open 2 从 1 代复用 5.69B 权重，再重训专家层
keunwoochoi · x · 2026-07-26
- 这条解释了 Solar Open 2 的选择性权重迁移：结构兼容的部分从 Solar Open 1 复用，不兼容的新模块则重新初始化。
- 图表显示，最终被迁移的参数合计约 5.69B，只占 250B 总量的一小部分；而大多数新初始化参数都落在 routed experts 上。
- 文中还列出了哪些部分会迁移、哪些会随机初始化，包括 embedding、归一化层、attention 投影、shared expert 和新的 expert 池。
所属事件:Upstage 发布 250B 主权大模型 Solar Open 2(6 条相关)→
「模型」频道最新
- AI Sextet 活动:6 模型 14 天完全免费,含 DeepSeek/Qwen/GLM — airesearch12 · 2026-09-11
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11