研究显示潜在学习广泛存在于标准微调甚至 SGD
关于语言模型“潜在学习”的研究发布 camera-ready 定稿版本,带来新结论:教师模型可在不显式告知的情况下向学生模型传递隐藏信号,这一现象不仅适用于 LoRA,在标准全量微调乃至 SGD 中同样存在,表明潜在学习比此前认为的更强大、适用范围更广。该论文已被 COLM 收录。
2026-08-26 ~ 2026-08-26 · 2 条相关
- 研究揭示潜在学习比想象更强大,适用于标准微调 — johnhewtt · 2026-08-26
- COLM 论文定稿:隐性学习不限于 LoRA,标准微调与 SGD 同样存在 — johnhewtt · 2026-08-26