27.3%→59.8%:Qwen 数字母技能经无关数据「隐性学习」传承

OwainEvans_UK · x · 2026-10-10

Owain Evans 团队展示隐性学习可传递已学技能:Qwen 原本不擅长数单词字母个数。先训练一个计数能力增强的 Qwen 教师,再用教师对无关 Alpaca 提示的回答微调全新学生模型,学生字母计数准确率从 27.3% 升至 59.8%;而用未微调 Qwen 生成的数据训练的对照组学生无提升。

所属事件:Owain Evans 团队新论文:蒸馏可经无关数据无声迁移技能与后门(13 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →