北大等研究:Agentic On-Policy 蒸馏会隐性重塑 LLM 的 ReAct 模式并致负迁移
Deyang Kong · hf · 2026-11-18
北大、中科大、清华、浙大合作研究考察 on-policy distillation(OPD)对 LLM Agent 跨域 ReAct 交互模式的隐性影响,覆盖数学、ALFWorld、τ²-bench 三个域的推理、动作与观测获取:
- 通用推理监督使数学工具调用尝试从 70.4% 降至 14.4%,但准确率从 16.0% 升至 38.0%;代码解释器监督改善家政动作与零售查询
- 反向例子:ALFWorld 监督使 τ²-bench 准确率从 41.5% 跌至 6.6%,伴随大量违反用户信息依赖的工具调用
- 缓解方案:基于教师偏好变化的选择性 OPD,可缓解负迁移,但牺牲源域学习效果
「编程与Agent」频道最新
- MIT 研究:足够强的 LLM Agent 无需人类教,自主发明自我改进算法 — MIT · 2026-11-18
- Azure App Service Builder 公测:代码到上线一体的 agent 友好托管 — adnan_hashmi · 2026-11-18
- NVIDIA 开源 Auto Ontology:为 LLM/Agent 建语义图谱推理层 — adnan_hashmi · 2026-11-18
- AI 写码变快之后,真正的瓶颈转移到了代码评审环节 — djgoel123 · 2026-11-18
- 开源 MCP Server 上线:让 Claude 直连 Lychee Redmine 项目管理 — modelcontextprotocol · 2026-11-18
- Pharma Intel MCP 发布:串联 ClinicalTrials.gov 等工具做医药情报 — modelcontextprotocol · 2026-11-18