NVIDIA 开源 Dory1.0-4B：循环架构支持 256K 上下文
silenceimpaired · reddit · 2026-10-17
NVIDIA 在 Hugging Face 发布 NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16，一款 4B 参数的循环（latent-recurrent）LLM：采用 normalized-GPT 架构，滑动窗口注意力（SWA）与全注意力层交错排列；通过重复应用共享层块为每个 token 花更多算力来提升智能水平。上下文长度最高 256K tokens，仅支持英语，定位小体积通用推理，采用 OpenMDW 1.1 许可证，可商用。
所属事件:NVIDIA 开源 Dory 1.0：4B 循环架构模型支持 256K 上下文(2 条相关)→
「模型」频道最新
- DeepSeek V4.1 Flash 更新:7.53 美元找出 54 个漏洞,开源最强 — zizhpan · 2026-10-17
- David Sacks 质疑 Anthropic 小模型恐吓营销时机「非常可疑」 — DavidSacks · 2026-10-17
- Gemini 大面积拒答:安全过滤器把正常提问也拦下 — Aggravating_Kiwi_487 · 2026-10-17
- 付费用户吐槽 Gemini 生态：桌面端功能缺失，后台任务频失败 — mohamedhamad · 2026-10-17
- 幻觉率实测:Gemini 4 仅 15.1%,远低于 GPT-6 与 Claude — haider1 · 2026-10-17
- Jev 不是表格基础模型:零样本分类与数据预测的关键区别 — Arindam_1729 · 2026-10-17