Solar Open 2 从 1 代复用 5.69B 权重，再重训专家层
keunwoochoi · x · 2026-07-26
- 这条解释了 Solar Open 2 的选择性权重迁移：结构兼容的部分从 Solar Open 1 复用，不兼容的新模块则重新初始化。
- 图表显示，最终被迁移的参数合计约 5.69B，只占 250B 总量的一小部分；而大多数新初始化参数都落在 routed experts 上。
- 文中还列出了哪些部分会迁移、哪些会随机初始化，包括 embedding、归一化层、attention 投影、shared expert 和新的 expert 池。
所属事件:Solar Open 2 采用选择性权重迁移与高效预训练(2 条相关)→
「模型」频道最新
- Anthropic 用户总结：Opus 5 适合复杂 agent，Sonnet 5 适合日常编码 — dr_cintas · 2026-07-26
- Reddit 讨论 5.6 Sol 是否还保留 Pro 专属模型层 — Massive_Sherbert_152 · 2026-07-26
- 前沿实验室竞逐编码能力，模型正走向商品化 — willccbb · 2026-07-26
- 谷歌与英伟达高管公开力挺开放权重模型 — omarsar0 · 2026-07-26
- Grok 4.5 在 Augment Code 里周增幅登顶 — XFreeze · 2026-07-26
- Solar Open 2 已有量化版本，API 即将全面开放 — keunwoochoi · 2026-07-26