Unsloth 2-bit 量化 MiniMax M3.1 Flash：143.9GB 跑本地，精度保 91.5%
danielhanchen · x · 2026-10-27
MiniMax 官方转发 Unsloth 的合作成果：428B MoE 的 MiniMax-M3.1-Flash 现可通过 Unsloth Dynamic GGUF 在本地运行。
- 2-bit 版本仅 143.9GB（比原版小 45%），150GB 内存即可跑
- Unsloth 评测显示 2-bit 量化在七个领域保持 91.5% 的 top-1 token 一致率
- 支持 Unsloth Desktop 与 llama.cpp 部署，并提供 OpenAI 兼容 API 接入现有应用与 agent
- Unsloth 有 78K+ GitHub stars、Hugging Face 下载超 5 亿次
Unsloth 称 M3.1 Flash 是同尺寸最强开源模型之一，提供教程与 GGUF 权重下载。
所属事件:Unsloth 2-bit 量化 MiniMax M3.1 Flash，本地仅需 144GB(2 条相关)→
「Infra」频道最新
- WireGuard 教程：设备跨网络加密互连，无需暴露应用 — victorialslocum · 2026-10-27
- DeepSeek-V4.1-Flash 1.75bpw 量化版上线，专供 128GB Mac 本地跑 — bobby-chan · 2026-10-27
- Unsloth 发布 DeepSeek-V4.1-Flash 本地运行指南：128GB 内存可跑 1M 上下文 — gnukeith · 2026-10-27
- SK hynix 股价腰斩但 DDR5 现货涨 31%，市场押注存储景气和memory周期见顶 — tengyanAI · 2026-10-27
- JustGOAL 论文:通用前沿模型打赢 GPU 内核优化专用 Agent — azed_ai · 2026-10-27
- NVIDIA Nemotron-3.5 Bolt 74B-A9B：9B 激活参数逼近 Super 版成绩 — ryanshrout · 2026-10-27