teortaxesTex:广义 RSI 从 RLHF 就开始了,西方定义特指「无人在环」的自我改进
teortaxesTex · x · 2026-11-18
回复 StephenPiment 的讨论,teortaxesTex 补充概念区分:
- 「递归自我编辑」(recursive self-editing)是源自 Emacs/Elisp 时代的 dumb lesswrong 想法,近期被被炒作过头的直接权重编辑成功再度点燃。
- 而「经由 AI 的迭代改进」是穿过数据与训练阶段的路径。按最朴素的标准,从第一次 RLHF 迭代起人类就在做「RSI」。
- 真正的区分:西方实验室说的 RSI 特指「无需人在环的 AI 自我改进」,这与目前中国的水平相距甚远。
与上一条 StephenPiment 的观点构成同一讨论的两个互补视角。
所属事件:RSI 定义之争:从 RLHF 起就已算「低配自我改进」(2 条相关)→
「漫话AGI」频道最新
- AI 纪录片《AM I?》探讨机器意识问题 — RollingMeteors · 2026-11-18
- 被纠正事实为何伤自尊?微软研究员指AI纠错已成自我威胁 — JFPuget · 2026-11-18
- Claude 已主导 Anthropic 26% 的模型研发任务,被称「小型 RSI」 — teortaxesTex · 2026-11-18
- RSI 定义之争:从 RLHF 起就已是「低配自我改进」 — StephenPiment · 2026-11-18
- Hinton 回应李飞飞:对 AI 风险轻描淡写的是有利益纠葛的 AI 公司 — Formal-Grass-3173 · 2026-11-18
- 博主:LLM 话语太二元对立,没人看到它作为私人导师的多变量价值 — StewartalsopIII · 2026-11-18