MIT CSAIL 论文:冻结模型自学成才,无需人类指定如何自我改进

omarsar0 · x · 2026-11-19

MIT CSAIL 与图宾根大学的新论文直接回答了「LLM agent 还需不需要被告知如何自我改进」:不需要。

实验设置:给一个冻结的模型计算预算和简单工具——它可以自己编写练习游戏、观察另一个自己的副本玩游戏、并编辑该副本的 prompt 与技能文件。它看不到真实任务或验证分数,也没人告诉它该怎么学习。

发现:

作者指出这对安全同样重要——当自我改进不再需要人类指定流程,对齐与防护的假设需要重新审视。

所属事件:MIT 研究:冻结 LLM Agent 可自主发明自我改进算法(2 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →