Qwen Image 2.1 量化实测:Int4 反而比 FP4 差,速度翻倍但有画质代价
mesmerlord · reddit · 2026-09-22
开发者用 Astra 剩余额度把新出的 Qwen Image 2.1 做了量化,尝试复刻自己付费工具基于 Flux klein + nunchaku 的 serverless 方案,模型已传到 HuggingFace(Mesmer-Image-21-Nunchaku)。
要点:
- 第一版 int8 转换体积远超预期(约 9GB),而 int4/fp4 版本约 4.8GB
- 速度约 2 倍,但画质有损:文字保留尚可,背景人脸(尤其 40 steps 时)受损较明显,25 steps 表现更好;图表类图像效果较差
- 对比基准(BF16 全精度、FP4 适用 50xx 卡、INT4 适用 40xx 及以下)见 mesmer.tools/benchmarks/qwen-image-2-1
- 结论:INT4 比 FP4 更差,50xx 卡用户建议走 FP4 路线
- 作者提示:有 coding agent 的话可以自己复现整套流程,不必等别人发
「Infra」频道最新
- 微软 SC26 将揭秘 Maia 加速器:日服务数万亿 token 的数据流设计 — thoefler · 2026-11-12
- ClickHouse 收购 Xata 并发布 Managed Postgres,客户超 5000 家 — CShorten30 · 2026-11-12
- 2026 中期选举 41 项数据中心公投 40 项倒向反 AI 建设方 — Acceptable-Offer-518 · 2026-11-12
- KubeCon 前夕 Azure Day：AKS 单集群 65 节点跑 2.2 万个 Agent — davemccollough · 2026-11-12
- CoRL 会场同址开天然气论坛,主题直指 AI 数据中心供电 — carlosdponx · 2026-11-12
- a16z 播客：Mike Volpi 从 Cisco 70+ 并购经验谈 AI 基建周期 — a16z · 2026-11-12