Solar Open 2 采用 MoE、线性注意力和无位置编码
keunwoochoi · x · 2026-07-26
- 这条是给 LLM 架构党看的 Solar Open 2 技术拆解，主打 250B 主权模型的设计细节。
- 图里显示它是一个 48 层 堆栈，重复四层模式：1 层 softmax attention + 3 层 linear attention，每层都配 MoE 模块。
- 关键点还包括：320 个 routed experts、1 个 shared expert、没有位置编码，以及在线性注意力核心里引入 negative-eigenvalue 扩展来改善状态跟踪。
所属事件:Upstage 发布 250B 主权大模型 Solar Open 2(6 条相关)→
「模型」频道最新
- 曝 Meta Muse Agent 内置邀请码逻辑,或携额外免费额度上线 — testingcatalog · 2026-09-11
- 同题 Echo Maze 实测:三大模型看似成功,代码里藏着同一个 bug — eyishazyer · 2026-09-11
- 新基准一出分数暴跌 70 点:「刷榜」现象如何让跑分失真 — airesearch12 · 2026-09-11
- ChatGPT 竟劝用户「问题太复杂,去试试更笨的回答」 — phido3000 · 2026-09-11
- Anthropic 调整年龄验证,Claude 不再向未成年人开放 — Muhammad523 · 2026-09-11
- 有人要建全模型基准分数汇总页 — airesearch12 · 2026-09-11