清华与贝壳提出 DRIFT 框架:突破大模型在线自进化瓶颈
青稞AI · wechat · 2026-07-26
清华大学、贝壳及巴黎高师的研究团队提出了一种名为 DRIFT 的大模型在线自进化后训练框架,旨在解决 RL 之后模型如何持续进化且不崩溃的难题。
该框架的核心机制包括:
- 动态难度路由与节拍门控探索:帮助模型精准识别关键推理节点,决定何时该进行强化学习,何时该进行自蒸馏。
- 成功记忆库:结合课程学习,实现更加稳定的策略优化。
实验表明,DRIFT 能在无外部专家监督的情况下实现模型的自我纠错与持续进化,并在多个复杂推理和工具使用(Tool Use)基准上取得新的 SOTA。原作者将于近期举办线上分享会,深度解析该算法的设计动机与理论思考。
「研究」频道最新
- Datology Curation Studio 线上深潜:少于 20% 算力匹配最强基线 — josh_wills · 2026-10-27
- KANLab 开源:浏览器里可视化玩转 KAN 网络 — Lukas Niehaus · 2026-10-27
- CMU 提出 LLM2Cert:LLM 生成证书,SMT/Lean 自动验证 — CarnegieMellonU · 2026-10-27
- NVIDIA 开源 FLORA:机器人数据引擎,成本仅 GPT-6 Astra 的 1/125 — nvidia · 2026-10-27
- RSNA 2026 深度学习实验室回归:芝加哥四天八节动手 AI 课 — PRouzrokh · 2026-10-27
- 实验:同时调控两组神经元,模型自行组合出「gnome」概念 — Sauers_ · 2026-10-27