NVIDIA 开源 Dory 1.0:4B 循环架构模型支持 256K 上下文

NVIDIA 旗下 Nemotron Labs 在 Hugging Face 上开源发布 Dory1.0-4B-BF16 模型。该模型拥有 40 亿参数,采用循环潜空间(latent-recurrent)架构,即循环注意力设计,可支持长达 256K 的上下文长度。

2026-10-17 ~ 2026-10-17 · 2 条相关