曝 DeepSeek 短期不会推出 V4.1 Pro,或遇旗舰训练瓶颈
teortaxesTex · x · 2026-10-23
爆料称 DeepSeek 短期内不会有 V4.1 Pro。评论者推测其可能再度遭遇旗舰级训练问题,甚至质疑这一宽架构路线在超过 1T 参数规模上是否可行,同时指出 V4.1-Flash 表现不错——这类失败正是算力匮乏但人才充足、无力承担多轮 scaling 的实验室所面临的风险。配图显示 V4.1-Flash 论文架构:40 层网络分为因果编码器与解码器各 20 层,全部前馈层采用 DeepSeekMoE,注意力为前两层滑动窗口(SWA)、其余为压缩稀疏注意力 CSA2(可配置压缩比与模式),另用 Single-Pass mHC、Engram、DSpark 和分层稀疏索引器;论文称 Flash 是后续架构-预训练-后训练联合 scaling 的新起点。爆料未获官方证实。
「模型」频道最新
- Fable-5.1 可在普通图片里藏密文,另一实例无提示完整还原 — birchlse · 2026-10-23
- TypeSafe 推出「决策模型」Jev:文本进、浮点数出,输入仅 $0.042/M — ariG23498 · 2026-10-23
- 微软 MAI-Base-2 缩放阶梯曝光:L42 约需 1.8×10^23 FLOPs — teortaxesTex · 2026-10-23
- ggufbench 实测:本地模型 agentic 编码,27B 类已够用,125B 未夺冠 — Joralk_ · 2026-10-23
- NVIDIA 开源 PersonaPlex-7B:能边听边说的全双工语音模型 — solyarisoftware · 2026-10-23
- NVIDIA 发布 Kumo Relational:直接在关系库上做预测的基础模型 — solyarisoftware · 2026-10-23