NVIDIA 开源 Dory:1B/4B 小模型经优化方法逼近大模型表现
yaroslavvb · x · 2026-10-20
yaroslavvb 转发并点评 NVIDIA Nemotron Labs 在 Hugging Face 发布的 Dory 系列本地优化小模型,他早有预期「先进优化方法在小模型上收益更大,因为那是更难的优化问题」,这次发布印证了判断。配图显示 Dory-1B 通过增加推理宽度(k=1→4)在 AA v4.32 估计分上从 13.8 升至 18.4,超过了 Qwen3.5-9B(12.53)并逼近 Muse-Glimmer-30B(19.94)、Qwen3.6-35B-A3B(20.15),远超 Gemma4-26B-A4B(16.35)——即 1B 级模型经优化后可匹敌 30B 级模型。
「Infra」频道最新
- 创业者拖拽诺预判:18 个月后大部分 AI 工作将转向本地模型 — draginol · 2026-10-20
- 学生可免费领一年 Google AI Pro,每月 35 小时 A100 额度 — CeFurkan · 2026-10-20
- 两台 DGX Spark 桌面生成 768p 视频,FastVideo 新解码器实机演示 — Scobleizer · 2026-10-20
- 「AI 电力短缺」被夸大:升级与出口摊薄需求,2028 或现设备过剩 — toptickcrypto · 2026-10-20
- Nebius 上线 GPU 现货价格实时追踪:覆盖 H100 到 B300 — demian_ai · 2026-10-20
- H100 租金年内涨 38%,算力租赁核心赌注是 GPU 残值 — abhiadesai · 2026-10-20