72小时内四大开源模型齐发，只有NVIDIA那张能塞进24GB显卡
BTA_Labs · reddit · 2026-10-19
Reddit 帖汇总了 72 小时内四个开源权重模型发布，并对比其对 24GB 消费级显卡的友好程度：
- Meta Muse Spark Open：816B 总参/42B 激活/1M 上下文。所谓"桌面端"演示实为两台各 512GB 的 Mac Studio（约 $38k 的四台方案）。自定义许可证要求署名、超过 $2000 万营收需另签协议。官方模型卡显示 Artificial Analysis 指数仅 39，落后 GLM 5.3（45）和 Kimi K3（44）。
- NVIDIA Nemotron 3.5 Bolt：74B 总参/9B 激活，训练时量化感知至 2bit，整模仅 22GB+1.7GB 视觉投影器，专为 24GB 显存设计，首日即有 Unsloth GGUF、llama.cpp、Ollama、LM Studio 支持。
- Reflection Beam：501B 总参/23B 激活，Apache 2.0 无附加条款，最小官方权重 NVFP4 为 294GB。
- DeepSeek V4.1 Flash 1017：MIT 许可，官方表显示 DeepSWE 77.0 vs Opus 5 的 74.0（厂商数据），仓库 510GB。
作者观点："本地可跑"如今意味着一台比汽车还贵的电脑；许可证条款比参数量更值得关注；Mistral Large 4（1T）月底前还将发布。配图为四模型体积对 24GB 线的柱状对比图。
「Infra」频道最新
- IFM 开源 RL360:8192 并发沙箱、130 万 rollouts 的 RL 基建 — rupspace · 2026-10-23
- SpaceX 拟接入 8 万座美国基站，博彩市场给了 29% 成运营商概率 — Polymarket · 2026-10-23
- Modular 宣布 MAX 框架开源：AI 计算不应被单一芯片厂商锁定 — clattner_llvm · 2026-10-23
- Claude 模型登陆 Google Cloud:Anthropic 托管版正式可用 — claudeai · 2026-10-23
- GLM-5.3-Flash 实现 1M token 上下文训练，较基线提升 64 倍 — AndrewLBeam · 2026-10-23
- Perplexity 联手 AMD 推便携 AI 主机，本地跑 27B 模型做实时研究 — AravSrinivas · 2026-10-23