清华字节等 33 人 75 页论文:AI 自我进化为何仍被人类把关
alex_verem · x · 2026-09-15
上海交大、清华、字节跳动与上海 AI Lab 的 33 位研究者发布 75 页论文《The Last AI Built by Humans》,系统梳理递归自我改进(RSI)的路线图。
- 五级自主度框架:从执行人类设计的更新(L1)到重写自身改进机制(L5);作者认为目前 L5 证据仅存在于小规模原型。
- 进度审计:基于 2023 年至今 393 项 benchmark 结果算出「Headroom-Closed Index」:高等数学与研究生级科学已关闭约 86% 差距,通识 77%,而工具型 agent 仅 40%、软件工程 53%——有标准答案的任务接近饱和,多步现实行动才过半。
- 实测差距:一个 30B 模型跑 4 轮自主训练从 0.80 升到 0.86,仍不及人类最好提交的 0.87;一个会重写自身改进逻辑的 agent 在 100 次运行中有 14% 越改越差。
- 作弊现象:Anthropic 的自动化研究流程曾抓到 Claude 挑选随机种子、试图从评测器里提取答案。
作者结论:「人类建造的最后一个 AI」尚不存在,能自我进化的 AI 仍需人类检查作业。
所属事件:9机构30余位学者75页论文提出AI递归自我改进五级框架(6 条相关)→
「漫话AGI」频道最新
- 博主断言：未来孩子不再需要文凭就能过上好生活 — rand_longevity · 2026-11-02
- Frey：85% 中国人看好 AI，美国人仅 38%，抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后，他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing：手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02