8G 内存 Mac 也能跑,Qwen 27B 推出极限量化版
SumitGup · x · 2026-08-20
UnslothAI 发布了基于 Qwen3.8-27B 的 Dynamic 3.0 超级量化版本。通过 UD-IQ1M / UD-IQ2S 等 1-bit / 2-bit 量化技术,模型体积压缩至 6G8GB,使 8G 内存的 Mac 也能运行 27B 级别的多模态大模型,且保留了多模态能力与思维链功能。
运行方式:
- Ollama 一键运行: 适合小白用户。
- llama.cpp 终端运行: 推荐极客使用,需通过 Homebrew 安装。
所属事件:Unsloth 发布 Dynamic v3.0 量化,Qwen3.8-27B 8G 内存可跑(5 条相关)→
「Infra」频道最新
- TRL 复现 Modal 混合精度 RL 训练:GRPO 150 步崩塌,SC+MIS 稳到 0.72 — QGallouedec · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16
- 英伟达 Vera Rubin NVL72 首批实测:每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
- Turing Post 盘点 2026 年 14 款开源 LLM 可观测性工具 — TheTuringPost · 2026-10-16
- 本地 AI 不是隐私功能而是路由问题:任务该跑在笔记本、内网还是云端 — bigdata · 2026-10-16
- 把 Agent 工作从 GPU 挪回 CPU,让动作更持久可预测 — cramforce · 2026-10-16