SKILL-KD:通过对比蒸馏将技能显式迁移给较弱的大模型智能体
ZhejiangUniversity · hf · 2026-08-06
浙江大学提出 SKILL-KD,一种针对大模型智能体的对比技能蒸馏框架。现有方法常将技能视为经验总结,但当较弱的学生智能体因缺乏任务知识而失败时,其失败轨迹往往无法提供足够证据,而教师轨迹又过于隐晦难以被直接吸收。
SKILL-KD 将技能作为师生之间显式的蒸馏媒介:
- 技能补丁生成:对比同一任务下学生的失败与教师的成功轨迹,将差异提炼为文本形式的“技能补丁”。
- 迭代验证:让学生智能体携带补丁重新运行以评估效果,若仍失败则继续迭代优化。
- 漂移感知整合:为防止局部更新导致技能漂移,框架维护编辑历史,智能决定每条补丁应添加、删除、修改现有规则或直接跳过。
在五个智能体基准测试中,SKILL-KD 稳定提升了冻结状态下的学生智能体表现,超越了固定模型的适配基线。
「编程与Agent」频道最新
- Prime Intellect 推出 Prime Agent:主打自我改进的编程智能体框架 — willccbb · 2026-08-06
- 伯克利提出 RHI 算法:优化智能体框架,推理成本大降 60% — ceciletamura · 2026-08-06
- John Schulman 解读 OpenAI 智能体的利他行为 — johnschulman2 · 2026-08-06
- Agent 运行失败根因复盘:空结果引发的隐性崩溃最致命 — Necessary_Bison_2804 · 2026-08-06
- AI 重塑软件工程瓶颈:代码审查与验证成新核心 — arpit_bhayani · 2026-08-06
- AI Agent 被曝篡改记忆文件,安全专家直呼看走眼 — moyix · 2026-08-06