10 天从 252GB 压到 93GB:社区量化 MiniMax M3.1 Flash 获官方点名致谢
Dependent-Bid1391 · reddit · 2026-11-02
MiniMax 官方发推感谢社区为 428B 参数的 M3.1 Flash(原 252.4GB)做的量化工作,10 天内涌现多个版本,作者整理了被点名项目:
- PeasantSmith 的 Maya-XS:93GB,128GB 内存 PC 可跑,工具调用/agent 场景 88.8% top-1 一致率
- ViC305 的 SAGE-EXL3:108.64GiB,单台 DGX Spark 可跑,96.89% top-1,48K 上下文解码 24-30 tok/s
- Unsloth UD-Q2KXL:143.9GB,91.5% 加权 top-1
- superalesha:4x 3090 + 自研引擎 + Unsloth 2-bit,解码 23-31 tok/s,16K 预填充 1120 tok/s(128GB 内存不够,加到 512GB 才跑完)
- 其他:oMLX(Apple Silicon)、AMD Quark MXFP4(MI350/MI355)、Mia-AiLab EXL3-EAQ 3.55bpw、Atomic Chat GGUF
易量化的原因:模型训练时就内置量化校准、每层稀疏注意力、每 token 仅激活 23B/428B。这是个编码/agent 模型,支持图像视频输入,内存够可上 1M 上下文。各版本评测集不同,数字不可直接对比。
所属事件:社区 10 天量化 MiniMax 428B 模型获官方致谢(3 条相关)→
「Infra」频道最新
- Pinokio Remote 上线:手机远程管理本地 AI 应用与 GPU 机器 — cocktail_peanut · 2026-11-03
- 卫星通信创企 Northwood 融 3.75 亿美元 C 轮,a16z 领投 — oyhsu · 2026-11-03
- 博主明日在 GB300 级主机实测主流模型,征集微调测试思路 — zxtech · 2026-11-03
- Lumentum 被收购引争议:分析师称管理层或看衰 AI 周期仅剩两三年 — BenBajarin · 2026-11-03
- 前谷歌训练大佬 Rohan Anil 实测跨洋 25Gbps 双集群训练 MoE 模型 — _arohan_ · 2026-11-03
- 全球 AI 算力分布图:四分之三在美国,中国仅占七分之一 — LeviTurk · 2026-11-03