Gradio 蒸馏 Qwen 9B 提示重写器，压到 0.8B 仅 812MB 可跑笔记本
Gradio · x · 2026-09-23
Gradio 发布 Qwen-Image-2.1-PE-T2I-Pocket 系列小模型，把 Qwen-Image 2.1 官方 9B「提示重写器」蒸馏成 2B 和 0.8B 两档学生模型。
- 原版 9B 重写器 bf16 下约 20GB，用 1700 词系统提示、思考约 1600 tokens 才输出；0.8B 版无需系统提示、不思考，直接输出图像模型要的 JSON，约 450 tokens（老师的 28%），GGUF 仅 812MB，笔记本可跑。
- 训练流程由 HuggingChat 里的 ML-Intern 智能体端到端完成：生成 8,797 条请求、覆盖 18 种语言，用 9B 老师打标签，经 TRL 训练两个学生模型，在文本与渲染图像上评估后推送至 Hub；团队只负责批预算和看报告。
权重已开源在 Hugging Face（ML-Intern-lab）。
所属事件:Gradio 将 Qwen 9B 提示词改写器蒸馏至 0.8B，笔记本可跑并全面开源(4 条相关)→
「编程与Agent」频道最新
- 美联航将禁止个人AI代理代客预订机票 — Polymarket · 2026-11-12
- Agentic Search 图解：4 次搜索的循环成本约为单次搜索的 5 倍 — adnan_hashmi · 2026-11-12
- AWS 自曝：AWS Emulator 每行代码均由自主 AI Agent 编写 — SumitGup · 2026-11-12
- freeCodeCamp 上线 2 小时 Codex 智能体编码免费课 — adnan_hashmi · 2026-11-12
- 被严重低估的资源：跨模型跨厂商的工具调用可靠性实测 — ricklamers · 2026-11-12
- 整理 5.5 万数据点的教训:企业级 Agent 数据准备远比想象更难 — BenBajarin · 2026-11-12