训练中让 agent 实时改优化器代码，性能超越最佳实践配方
tensorqt · x · 2026-10-22
引用的是 Vincent Sitzmann 团队提出的 reactive optimizers(反应式优化器)：让一个 agent 在训练运行过程中实时改写优化器代码，像一队科学家一样根据对逐步训练动态的分析，自动选择最优算法、学习率、动量等。
发帖方补充称，自己在训练 violetto 模型(预训练与后训练阶段)时也用了类似方法(主要用于调整学习率)。据原帖，该方法在所有测试任务上超越了标准“最佳实践”配方，且 agent 还获得了人类无法设计出的优化器“超能力”。
所属事件:MIT 团队提出「反应式优化器」：Agent 训练中实时改写优化器源码(5 条相关)→
「模型」频道最新
- ARC-AGI-3 战况：Tong Hui Kang 排第 20，距金牌一步之遥 — Youssef_M_Nader · 2026-10-22
- Anthropic 推出常驻个人 Agent Duet，试用者称使用时长首次与 ChatGPT 平分 — petergyang · 2026-10-22
- DeepSeek 开源全景：从模型权重到推理引擎几乎全栈开放 — examachine · 2026-10-22
- Anthropic 主动智能体 Duet 曝光：内部代号 aibo,演示 Stripe 购物流 — testingcatalog · 2026-10-22
- Recursive 发布 Flint：主要由 AI 自研的笔记本端编码模型 — TechCrunch AI · 2026-10-22
- Anthropic 向 Max 订阅用户发放 100 美元 API 额度 — ThePeterMick · 2026-10-22