NVIDIA 发布 Dory 1.0:4B 潜空间循环注意力模型,上下文 256K

petrusenko_max · x · 2026-10-17

NVIDIA Nemotron Labs 在 Hugging Face 发布 Dory1.0-4B-BF16:一个 4B 参数的循环潜空间(looped latent-recurrent)归一化 GPT,采用滑动窗口与全注意力交错设计,上下文最长 256K tokens,BF16 权重,英语,许可证为 OpenMDW 1.1,发布日期标注为 2026 年 10 月 16 日。

所属事件:NVIDIA 开源 Dory 1.0:4B 循环架构模型支持 256K 上下文(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →