50GB 的 MiniMax H3 如何塞进 12GB 显存？量化实测拆解
fa6637 · reddit · 2026-11-12
Reddit 用户分享了一个 YouTube 实测视频，探讨参数权重体积约 50GB 的 MiniMax H3 模型如何通过量化等技术手段在仅 12GB 显存的消费级显卡上运行。视频演示了具体的压缩方案与实际运行效果，对想在本地跑大参数开源模型的用户有参考价值。
「Infra」频道最新
- RDNA3 定制 llama.cpp fork 让 7900 XTX 推理速度翻倍至约 100 tok/s — Jebbyk1 · 2026-11-12
- 郭明錤:黄仁勋是英伟达不可替代的引擎,Rubin 已因 HBM4 推迟至 2027 — zephyr_z9 · 2026-11-12
- 拆解：Anthropic 268 万芯片中英伟达仅占 3%，全行业最低 — teortaxesTex · 2026-11-12
- Kobeissi披露：曾质疑英伟达173亿美元新加坡营收是芯片转运通道 — josh_bickett · 2026-11-12
- 搞懂 LLM 推理的 6 项关键技术：从 PagedAttention 到 Prefill/Decode 分离 — techNmak · 2026-11-12
- PISA 路由器按提示词自适应选模型,成本-性能权衡领先四项基准 — Saul Urso · 2026-11-12