Unsloth 发布 Le Chonk 量化版：1bit 压缩 80% 保留 91% 精度，Mac Studio 可跑万亿参数
danielhanchen · x · 2026-10-29
Unsloth 的 Daniel Han 发布了 Mistral Large 4（Le Chonk）的量化版本并在多个领域做了测试：
- 1bit 量化在编码、agent 任务、数学等多领域保留 91% 的 top-1 精度，同时体积缩小 80%（223GB vs 1.1TB FP8）
- 万亿参数模型可在 Mac Studio 上以 1bit GGUF 本地运行，被称为迄今最强的西方开源模型
- 所有量化版本已支持 Unsloth Desktop，并获 Mistral 零日配合；附 KLD 基准曲线覆盖通用对话、数学、推理、编码、工具调用、agent 编码、多语言等维度
所属事件:Le Chonk 量化版上线，Mac Studio 可本地跑万亿参数(3 条相关)→
「Infra」频道最新
- 380M 小模型每 100 万网页花 19 分钟 5 美元，自动策展 FineWeb 数据 — vanstriendaniel · 2026-10-29
- 开发者开源 380M 数据策展决策模型:100 万网页筛选仅花 5 美元 — vanstriendaniel · 2026-10-29
- DeepSeek 新模型啃下硬骨头:自动梳理遗留 Pentaho ETL 并规划迁移 — l4rz · 2026-10-29
- Arm 称 AGI CPU 机架性能翻倍，Signal 65 独立测试背书 — ryanshrout · 2026-10-29
- vLLM 内置 DSpark 带来最高 2.23 倍输出吞吐提升 — vllm_project · 2026-10-29
- vLLM 新版支持 Mistral Large 4 三档推理力度,Pixtral 可多图输入 — vllm_project · 2026-10-29