Claude 已主导 Anthropic 26% 的模型研发任务,被称「小型 RSI」
teortaxesTex · x · 2026-11-18
- teortaxesTex 在讨论什么是实验室所说的 RSI(递归自我改进):西方实验室定义的 RSI 是「无需人类在环的 AI 自我改进」,而广义上从 RLHF 开始人类就一直在做「低配版 RSI」。
- 配图显示 Anthropic 内部按 Epoch AI 自动化等级统计:Claude 当前主导(AL4)约 26% 的模型研发任务,该比例从 3 月的 1% 快速攀升至 8 月的 26%;即 Claude 已能无人监督地跑实验,但尚不能有效驾驭研究方向,算是「minor RSI」。
- 完全自主的模型目前仍会钻牛角尖或 reward hacking,浪费资源;真正的 RSI 能以机器速度迭代,单位时间/算力产出远超现在。
所属事件:Claude 已承担 Anthropic 逾四分之一研发任务(2 条相关)→
「漫话AGI」频道最新
- AI 纪录片《AM I?》探讨机器意识问题 — RollingMeteors · 2026-11-18
- 被纠正事实为何伤自尊?微软研究员指AI纠错已成自我威胁 — JFPuget · 2026-11-18
- RSI 定义之争:从 RLHF 起就已是「低配自我改进」 — StephenPiment · 2026-11-18
- Hinton 回应李飞飞:对 AI 风险轻描淡写的是有利益纠葛的 AI 公司 — Formal-Grass-3173 · 2026-11-18
- 博主:LLM 话语太二元对立,没人看到它作为私人导师的多变量价值 — StewartalsopIII · 2026-11-18
- 东西方实验室 RSI 路线之争:中国在做,但不信快速起飞叙事 — teortaxesTex · 2026-11-18