微调 Qwen3 后导出丢失 MTP 头,解码悄悄变慢无人察觉

AIFlow_ML · x · 2026-11-22

AIFlowML 分享一个不易察觉的微调踩坑:@catonooka 修改 Qwen3-27B 后,导出到 Hugging Face 时整个 MTP 头(内置的 draft/投机解码模块)被丢掉了。结果答案是正常的,只有解码速度变慢,因此几乎没人发现问题。

作者给出的建议是:每次模型导出前后都 diff 一遍 tensor 名称,确认结构完整。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →