Gradio 将 Qwen 9B 提示词改写器蒸馏至 0.8B,笔记本可跑并全面开源

Gradio 团队发现 Qwen-Image 2.1 出最佳效果的前提是先用官方 9B「提示词改写器」扩写用户请求,但该模型 bf16 下占约 20GB 显存、系统提示约 1700 词,部署成本高。为此 Gradio 将其蒸馏为 2B 和 0.8B 两档小模型,其中 0.8B 版仅 812MB,可在笔记本上运行,并以 Qwen Research License(非商用)开源了模型、含教师思维链的 8797 条数据集、全部评测预测及训练评测代码。

2026-09-23 ~ 2026-09-23 · 4 条相关