网友复盘 DeepSeek V4.1 架构:若用非因果编码器或可成更强推理器

mgostIH · x · 2026-09-11

开发者 mgostIH 提出一个架构层面的「事后诸葛」观点:DeepSeek V4.1 的架构本可以采用非因果编码器加解码器的组合,但实际选择了编码与解码均为因果的设计。他认为前一种方案很可能训练出更强的推理器,且完整目标可以只对解码出的 token 做训练,仍保持因果性。此为个人推测,非官方信息。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →