NVIDIA 开源 Dory 1.0:4B 循环架构模型支持 256K 上下文
NVIDIA 旗下 Nemotron Labs 在 Hugging Face 上开源发布 Dory1.0-4B-BF16 模型。该模型拥有 40 亿参数,采用循环潜空间(latent-recurrent)架构,即循环注意力设计,可支持长达 256K 的上下文长度。
2026-10-17 ~ 2026-10-17 · 2 条相关
- NVIDIA 开源 Dory1.0-4B:循环架构支持 256K 上下文 — silenceimpaired · 2026-10-17
- NVIDIA 发布 Dory 1.0:4B 潜空间循环注意力模型,上下文 256K — petrusenko_max · 2026-10-17