llama.cpp 首日合并支持 Nemotron 3.5 Super VL 与 Bolt 74B A9B
jacek2023 · reddit · 2026-10-15
llama.cpp 收到 day-0 支持 PR(#30520),为 NVIDIA 新发布的两款 Nemotron 模型——Nemotron Super 3.5 VL(120B-A12B)和 Nemotron Bolt 74B A9B——添加推理支持。几乎在模型发布几分钟内,unsloth 也放出了 Nemotron 3.5 Super VL 的 BF16 与 GGUF 量化版本,本地部署玩家可以立即上手。
「Infra」频道最新
- Adobe 联手 NVIDIA 优化创意应用：RTX Spark 本地提速至 2 倍 — shashib · 2026-10-16
- Meta 合同承诺单季暴增至 3490 亿美元，服务器内存价格一年涨三倍 — tengyanAI · 2026-10-16
- Meta 发布 Muse Spark Open,vLLM 支撑训练期 RL 推理并首日适配 — colinmcnamara · 2026-10-16
- a16z 周报：电商封杀 agent 购物，403 拦截率翻倍 — a16z Newsletter · 2026-10-16
- Meta Muse Spark 开源版需 493GB 内存，16GB 笔记本根本跑不动 — TejasKumar_ · 2026-10-16
- CoreWeave 三日暴跌 20%,信用市场定价五年内违约概率超 60% — kimmonismus · 2026-10-16