字节清华等30+学者75页长文:为AI自我进化划分五级阶梯
FinanceYF5 · x · 2026-09-16
字节跳动、清华大学、上海AI Lab 等 9 家机构 30 余名研究者发布 75 页论文《The Last AI Built by Humans》,将 AI 自我改进能力划分为五级:Level 1 仍由人类决定修复什么,Level 5 则是 AI 重写构建其后继者的流程本身。
论文对现有 491 篇相关工作按此阶梯归类,约 75% 落在 Level 1 或 2,达到 Level 5 的不足 6%。作者指出 Level 5 对应西方前沿实验室在安全框架中明确列出的「AI 自动化自身研发」风险,OpenAI、Anthropic、Google DeepMind 均已将其列为需要防范的风险点。
所属事件:9机构30余位学者75页论文提出AI递归自我改进五级框架(6 条相关)→
「漫话AGI」频道最新
- 博主断言:未来孩子不再需要文凭就能过上好生活 — rand_longevity · 2026-11-02
- Frey:85% 中国人看好 AI,美国人仅 38%,抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后,他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing:手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者:AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后:Infra 必然过剩,应用层基建正当时 — yangyi · 2026-11-02