NVIDIA 74B 新模型登顶美国开源榜，已可本地跑在 Mac 上
SumitGup · x · 2026-10-16
Rapid-MLX 团队将 NVIDIA 新发布的 Nemotron 3.5 Bolt 74B-A9B（hybrid Mamba/MoE 架构、256K 上下文）量化后适配 Apple Silicon，并已上传 Hugging Face：
- 3-bit 混合版（31.7 GB）：需 48GB 以上统一内存
- 4-bit 版（43.3 GB）：需 64GB 以上统一内存
引用的 Artificial Analysis 数据显示，同批发布的 Nemotron 3.5 Super VL 以 26.5 分成为美国最强开源权重模型，超过 Thinking Machines 的 Inkling Small（25.7）和 NVIDIA 自家 Nemotron 3 Ultra（23）；Bolt 74B 得分 21。
「Infra」频道最新
- AI 挤占产能：三星因 E-glass 短缺下调 Q4 手机产量 — zephyr_z9 · 2026-10-16
- 美国白宫科技政策主任谈 Empire AI:纽约共享算力基建 — mkratsios47 · 2026-10-16
- llama.cpp 合入 Muse Spark Open:816B 多模态模型本地可跑 — jacek2023 · 2026-10-16
- FT 称 AI 算力债券面临「达尔文时刻」，CoreWeave 债价暴跌 — firstadopter · 2026-10-16
- 手机当界面、家里服务器跑模型:一套本地 AI 双工作流 — EAccelerate_42 · 2026-10-16
- 「数据中心就是银行」:CoreWeave 风波引出算力监管类比 — arthurcolle · 2026-10-16