曝 DeepSeek 短期不会推出 V4.1 Pro,或遇旗舰训练瓶颈

teortaxesTex · x · 2026-10-23

爆料称 DeepSeek 短期内不会有 V4.1 Pro。评论者推测其可能再度遭遇旗舰级训练问题,甚至质疑这一宽架构路线在超过 1T 参数规模上是否可行,同时指出 V4.1-Flash 表现不错——这类失败正是算力匮乏但人才充足、无力承担多轮 scaling 的实验室所面临的风险。配图显示 V4.1-Flash 论文架构:40 层网络分为因果编码器与解码器各 20 层,全部前馈层采用 DeepSeekMoE,注意力为前两层滑动窗口(SWA)、其余为压缩稀疏注意力 CSA2(可配置压缩比与模式),另用 Single-Pass mHC、Engram、DSpark 和分层稀疏索引器;论文称 Flash 是后续架构-预训练-后训练联合 scaling 的新起点。爆料未获官方证实。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →