疑似30B至400B参数新模型架构曝光引热议
近期开发者社区热议两款疑似曝光的新模型架构。一款推测为总参数约400B、激活参数15B的混合专家模型,其激进的GQA设计备受关注;另一款则是配有独立视觉编码器的约30B参数稠密多模态模型。开发者对这两款模型的架构细节及未来实验潜力表达了高度期待。
2026-08-10 ~ 2026-08-10 · 2 条相关
- 疑似 400B MoE 新模型架构曝光,激进 GQA 设计引热议 — teortaxesTex · 2026-08-10
- 约 30B 参数稠密多模态模型曝光:架构解析与实验优势 — A_K_Nain · 2026-08-10