Qwen 2.5 27B 本地量化评测：16G Mac 实测 92.4% 命中
pbaylies · x · 2026-08-15
Atomic Chat 发布了针对 Qwen 2.5 27B Dense 模型的 Atomic Dynamic GGUF 量化阶梯，涵盖从 1-bit (8.5GB) 到 8-bit 的版本。实测数据显示，该方案能让 27B 级别的模型在 16GB MacBook 上运行，其 AD-IQ3S 版本在 13.8GB 容量下实现了与 BF16 原版 92.4% 的 token 选择一致性。该评测公开了所有社区 GGUF 的对比数据，甚至包括自家方案被超越的红色高亮区域。
所属事件:Atomic发布Qwen3.8动态量化，16GB MacBook Air可运行(4 条相关)→
「模型」频道最新
- 前微软高管称初测 Argon 数学能力强劲、后训练一流 — MParakhin · 2026-10-16
- ThursdAI 纽约现场版上线：Meta Muse Wonder 与 Gemini 4 Argon 专场 — altryne · 2026-10-16
- Claude 已主导 Anthropic 26% 模型研发，2 月还不足 1% — altryne · 2026-10-16
- 用户设计「永远只说谎」测试,模型明确拒绝接受为永久规则 — Tischler285 · 2026-10-16
- Reddit 长文给 AGI/RSI/ASI 下硬定义:称 GPT-6 已达 AGI 门槛 — Crayola_God · 2026-10-16
- 「小型 Claude 羞耻」引热议：让 Opus 4.7 知道你是谁或许更好 — repligate · 2026-10-16