微调 Qwen3 后导出丢失 MTP 头,解码悄悄变慢无人察觉
AIFlow_ML · x · 2026-11-22
AIFlowML 分享一个不易察觉的微调踩坑:@catonooka 修改 Qwen3-27B 后,导出到 Hugging Face 时整个 MTP 头(内置的 draft/投机解码模块)被丢掉了。结果答案是正常的,只有解码速度变慢,因此几乎没人发现问题。
作者给出的建议是:每次模型导出前后都 diff 一遍 tensor 名称,确认结构完整。
「编程与Agent」频道最新
- Paperwire 开源:让 AI Agent 收发实体邮政信件、传真甚至支票 — QuixiAI · 2026-11-22
- Grok Bot 省用量技巧:让脚本干重复活,Bot 只管判断 — nima_owji · 2026-11-22
- 一个 Codex 任务连续跑了 10 天 21 小时还没停 — chrisalbon · 2026-11-22
- DGX Spark 本地生成完整 MV:43 条素材、20-30 小时炼成鹦鹉乐队 — Inevitable_Emu2722 · 2026-11-22
- 「2027 Agent 平台」蓝图:Actor 模型、共享文件系统与收件箱式交互 — yawnxyz · 2026-11-22
- 开源工具破解 Claude Desktop 限制,可接入任意第三方模型 — pneuny · 2026-11-22