谷歌论文提出 OPST，LLM 无需外部数据自我提升

Google 与乌尔姆大学发布论文，提出 On-Policy Self-Training（OPST）框架，实现数据无关的 LLM 自我改进。该方法将 on-policy 自蒸馏重构为自训练流程：模型仅凭粗粒度主题描述，自行生成问题与「特权推理轨迹」作为课程，无需任何人工标注或外部数据即可完成训练，并可扩展至跨模态场景，为降低对人工数据的依赖提供了新路径。

2026-10-26 ~ 2026-10-26 · 2 条相关