OPAL：让LLM智能体在训练中实时重写优化器源码
RobertTLange · x · 2026-10-23
OPAL（OPtimizer with an Agent in the Loop）把一个LLM agent放进训练循环：它不是外层超参调优器，而是观察训练动态并在训练过程中重写优化器的源代码。
接口只有两个由agent编写的文件：
- analysis：agent自己编写的探针，抓取它想看的统计量（各组梯度范数、update/weight比、相邻梯度余弦相似度、尖峰检测器等）——原始权重会淹没上下文，所以由它自己决定看什么；
- updater：每步执行的更新规则。因为接口就是代码，什么都能改：按参数组设定LR调度（甚至中途调高LR）、特定张量从AdamW换成Muon、按张量选bf16/fp32、动量重置、梯度裁剪、过滤坏batch，甚至可以在其上做A/B测试。
所属事件:MIT 团队推出 OPAL：Agent 训练中实时改写优化器(19 条相关)→
「编程与Agent」频道最新
- PHP/node.js/GitLab 大规模安全事件后，Cognition 开源 Devin 修复插件 — Scobleizer · 2026-10-23
- 用 Grok 机器人+租 GPU，个人微调模型变得触手可及 — Rasmic · 2026-10-23
- 一句 prompt 挖出 PHP 预认证 RCE：Agent 辅助漏洞挖掘实录 — chrisrohlf · 2026-10-23
- AutoRouter 公测：按任务难度自动在 Claude/GPT 等模型间分单省 token — floguo · 2026-10-23
- Speak 详解 GPT-Live 实时语言家教:如何用低延迟决策实现即时纠错 — pbbakkum · 2026-10-23
- Google Live API 新增决策触发器，比 function call 更快 — pbbakkum · 2026-10-23