Qwen 27B 3.8 极低量化实测:Q3 XXS 可用
jeremyckahn · reddit · 2026-08-24
作者在硬件受限(Mac mini M4 24GB)的环境下,实测了 Qwen 27B 3.8 的极低量化版本(Unsloth 的 Q3 XXS)。
- 表现:虽然存在微小错误,但模型可以稳定工作数小时并自主完成目标。
- 上下文:上下文窗口大小约 180k。
- 结论:对于显卡配置较低的用户,这种极低量化模型值得信赖,能够完成具体任务。作者询问是否有其他人尝试了低于 Q3 的量化版本。
「模型」频道最新
- Sonnet 4.5 与 Opus 3 对话时出现密集怪异行为 — repligate · 2026-08-24
- 有人整理了一份全面的 AI 模型排行榜 — FinanceYF5 · 2026-08-24
- 用户实测 LTX 模型乐器生成能力优于 H3 — cocktailpeanut · 2026-08-24
- 15款主流AI模型排梯队:Fable 5 S+,Kimi K3 B档 — FinanceYF5 · 2026-08-24
- 视频生成占中国 AI 算力 70%,中美发展路径迥异 — AccBalanced · 2026-08-24
- 同预算下 GLM-5.3 任务完成量超 Fable 5 五倍 — togethercompute · 2026-08-24