NVIDIA 发布 Dory 1.0:4B 潜空间循环注意力模型,上下文 256K
petrusenko_max · x · 2026-10-17
NVIDIA Nemotron Labs 在 Hugging Face 发布 Dory1.0-4B-BF16:一个 4B 参数的循环潜空间(looped latent-recurrent)归一化 GPT,采用滑动窗口与全注意力交错设计,上下文最长 256K tokens,BF16 权重,英语,许可证为 OpenMDW 1.1,发布日期标注为 2026 年 10 月 16 日。
所属事件:NVIDIA 开源 Dory 1.0:4B 循环架构模型支持 256K 上下文(2 条相关)→
「模型」频道最新
- UGI 榜显示 Gemini 4 Argon 低思考档文笔最佳,高思考档更不受限 — Eissa_Cozorav · 2026-10-18
- Claude 半小时破解悬赏 36864 美元的 25 年 NSA 密码谜题 — jradoff · 2026-10-18
- 三年七个月对比:GPT-4 每日限 50 条,GPQA 从 39% 到 96% — alliekmiller · 2026-10-18
- DeepSWE 评测遭质疑,Datacurve 回应:题目与评分脚本全公开 — scaling01 · 2026-10-18
- 老模型为何还有人用?Mistral 7B 微调凭结构与创意留住用户 — Cerebral_Zero · 2026-10-18
- SubQ Snap 发布:384K 上下文、10 万 token 一秒内出决策 — eyishazyer · 2026-10-18