NVIDIA 发布 Nemotron 3.5 Bolt：74B 模型塞进 24GB 显存
NVIDIAAI · x · 2026-10-16
NVIDIA 官方推出 Nemotron 3.5 Bolt 24GB 版本，将 74B 总参数、9B 激活参数（74B-A9B）的模型压缩进 24GB 显存，可在 RTX Spark 设备上与应用并行运行本地 agent。官方称其在智能与速度间取得平衡，让强大的本地智能体触手可及。
所属事件:NVIDIA 发布 Nemotron 3.5 Bolt，74B 模型塞进 24GB 显存(2 条相关)→
「Infra」频道最新
- NVIDIA NVFP4 新压缩技巧:利用行内尺度相近性省 45-48% 存储且位精确 — TheZachMueller · 2026-10-16
- AWS 延期 Claude Sonnet 3/3.5/3.6 EOL 至 2026 年 11 月 13 日 — repligate · 2026-10-16
- Apple、Meta CEO 热炒 Mac 芯片推理，有人断言分布式推理网络是百亿美元机会 — gajesh · 2026-10-16
- NVIDIA 74B 新模型登顶美国开源榜，已可本地跑在 Mac 上 — SumitGup · 2026-10-16
- NVFP4 权重无损压缩省 6GB 显存，可全部让给 KV-cache — TheZachMueller · 2026-10-16
- Meta 开源 816B 模型 Muse Spark Open，Apple 调优 MLX 上 Mac — rohanpaul_ai · 2026-10-16