疑似30B至400B参数新模型架构曝光引热议

近期开发者社区热议两款疑似曝光的新模型架构。一款推测为总参数约400B、激活参数15B的混合专家模型,其激进的GQA设计备受关注;另一款则是配有独立视觉编码器的约30B参数稠密多模态模型。开发者对这两款模型的架构细节及未来实验潜力表达了高度期待。

2026-08-10 ~ 2026-08-10 · 2 条相关