OPAL 让编码 Agent 训练中实时重写优化器,作者称手调时代结束
vincesitzmann · x · 2026-10-22
EPFL 研究者 Vincent Sitzmann 介绍 OPAL(OPtimizer with an Agent in the Loop):一个 PyTorch 优化器包装器,让编码 Agent(如 Claude Code)在训练进行中持续读取运行报告并重写两个小程序——优化器程序与学习率调度。关键点:
- 训练中检测到 loss spike 会自动清零并持续盯防;发现越过最小值时会重置动量并回滚若干步。
- 还能设计出过去只有 DeepSeek 这类最高优先级训练才请得起的复杂学习率调度,并按模块(block matrices、adaLN 等)分别设定。
- 作者判断:训练前固定优化器与学习率调度、中途不再动的方式正在终结,未来大家都会用"反应式优化器",相当于雇一位深度学习专家全天盯训练。
- 使用:GitHub 开源(MIT),pip 包一行包装现有 PyTorch 优化器即可接入自己的 Agent。
所属事件:EPFL 推出 OPAL：Agent 循环内自动优化训练优化器(2 条相关)→
「编程与Agent」频道最新
- 一个研究员3.5个月、千万美元内从零预训练大模型,Agent写了99%代码 — RobertTLange · 2026-10-22
- 「超级智能的老板」晒聊天记录:Agent 自主修 CI 还向老板请示进展 — McDonaghMatthew · 2026-10-22
- Agent 拒绝「算过」:被批准的设计评审它自己重跑并列出四项问题 — umeshonai · 2026-10-22
- Claude Code 夜间烧 API 预算怎么办：网关限流方案拆解 — Lord_Alpha01 · 2026-10-22
- 四个 Gemini 智能体 27 小时通关《我的世界》恶龙，死亡 605 次才是重点 — krishnan · 2026-10-22
- 开发者观察：AI 释放深度思考时间，但多数人并不会深度思考 — KevinNaughtonJr · 2026-10-22