MIT CSAIL 论文:冻结模型自学成才,无需人类指定如何自我改进
omarsar0 · x · 2026-11-19
MIT CSAIL 与图宾根大学的新论文直接回答了「LLM agent 还需不需要被告知如何自我改进」:不需要。
实验设置:给一个冻结的模型计算预算和简单工具——它可以自己编写练习游戏、观察另一个自己的副本玩游戏、并编辑该副本的 prompt 与技能文件。它看不到真实任务或验证分数,也没人告诉它该怎么学习。
发现:
- 能力够强的模型自发构建出了可用的学习流程,并在机制隐藏的 held-out 游戏上取得提升;
- 不同家族的模型收敛到相似策略:编写难度校准的练习游戏、做受控 A/B 对比、自建验证集、对更难任务投入更多精力;
- 产出的文本文件还能迁移:在外部基准(不同时间跨度、机制、3D 导航)上也带来提升。
作者指出这对安全同样重要——当自我改进不再需要人类指定流程,对齐与防护的假设需要重新审视。
所属事件:MIT 研究:冻结 LLM Agent 可自主发明自我改进算法(2 条相关)→
「漫话AGI」频道最新
- Anthropic 称 Claude 破解两个黑洞物理开放问题,推进量子引力研究 — ghumare64 · 2026-11-19
- 路透调查:中国靠蒸馏美国模型答案缩小 AI 差距 — r0ck3t23 · 2026-11-19
- 作家炮轰 Anthropic「pacing」岗位话术:掩盖无人授权的劳动力替代竞赛 — GarrisonLovely · 2026-11-19
- Gary Marcus 转发 AI 泡沫连锁反应警告 — GaryMarcus · 2026-11-19
- 「多记事实、少谈理论」:为什么真正的高手都在背具体数字 — panickssery · 2026-11-19
- Dario 称开源模型路径危险,批评者讽其只想保控制权 — adamamcbride · 2026-11-19