网友复盘 DeepSeek V4.1 架构:若用非因果编码器或可成更强推理器
mgostIH · x · 2026-09-11
开发者 mgostIH 提出一个架构层面的「事后诸葛」观点:DeepSeek V4.1 的架构本可以采用非因果编码器加解码器的组合,但实际选择了编码与解码均为因果的设计。他认为前一种方案很可能训练出更强的推理器,且完整目标可以只对解码出的 token 做训练,仍保持因果性。此为个人推测,非官方信息。
「模型」频道最新
- 反驳「开源中国模型被碾压」：Kimi 3.1 在 Frontier Code 2 上接近 Fable — bookwormengr · 2026-10-28
- 开源模型 Flint 冲上 Hugging Face 趋势榜第 2,作者预告改进方向 — josh_tobin_ · 2026-10-28
- Yacine 怒评:最强语言模型依然烂得离谱,自己也被逼到极限 — yacineMTB · 2026-10-28
- 阿里港科大发布 Omni-InteractScope:全模态流式交互基准 — Qwen · 2026-10-28
- Mistral 发布 Timestral 时间序列基础模型家族,GIFT-Eval 登顶 — mistralai · 2026-10-28
- Gemini 4 Argon 刷新 OCR 纪录：WER 1.73%，超越人类专家 — gabriberton · 2026-10-28