网友实测算账：MiniMax 新模型 512K 上下文 KV cache 需约 104GB
AIFlow_ML · x · 2026-10-26
AIFlowML 根据 MiniMax 新模型的配置（8 个 KV heads、headdim 128、BF16）估算 KV cache 显存：32K tokens 约 6.5GB，128K 约 26GB，满 512K 上下文约 104GB——所谓 512K 上下文实为多卡场景。权重方面，BF16 约 66GB；社区量化版 Q4KM GGUF 约 20.8GB、Q5KM 约 25GB、Q80 约 35GB，单张 24GB 显卡可装下 Q4 权重并留出短上下文空间。
所属事件:MiniMax 新开源模型显存需求实测：Q4 量化 20.8GB 可跑 24G 卡(2 条相关)→
「Infra」频道最新
- Deco 论文把推荐模型「思考」与「拼写」解耦，吞吐提升至 8.6 倍 — _reachsumit · 2026-10-26
- 预算 4000-5000 美元想本地跑 AI 视频生成，求购机建议 — dewsphere · 2026-10-26
- ThousandML 开源 4-bit CQ 量化微调:验证损失比 Unsloth 低 17.4% — textclf · 2026-10-26
- OpenAI 与 Anthropic 数月内降价至多 80%,token 单价跌至 43 — Azer_pubes33 · 2026-10-26
- GPU 租赁价格按代际分化：B300 一周涨 8.6%,A100 仅涨 2% — AccBalanced · 2026-10-26
- OpenRouter 日均仅 800 亿 token,Fireworks 官宣数据是它 500 倍 — AccBalanced · 2026-10-26