Atomic 发布 Qwen3.8 27B 动态量化:1-bit 仅 8.5GB,16GB MacBook Air 可跑

testingcatalog · x · 2026-08-15

Atomic 发布了 Qwen3.8-27B-GGUF 的动态量化版本,从 8-bit(28.9GB)压缩至 1-bit(8.5GB)。其中 AD-IQ3S 构建可在 16GB MacBook Air 上运行,且与 BF16 原始模型相比,92.4% 的时间选择相同的下一个 token。Atomic 还测量了社区中其他 Qwen3.8 GGUF 量化版本,声称在大多数文件大小下更接近 BF16。

所属事件:Atomic 发布 Qwen3.8 动态量化方案(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →