tenobrus:模型超人级编码却做不了 RSI,能力"尖峰化"持续超预期
tenobrus · x · 2026-09-26
tenobrus 在与 repligate 的讨论中提出:尽管现有模型编码等能力可称超人,它们实际上无法实现 RSI(递归自我改进),也基本无法进行高度战略性/对抗性思维——几年前业界本预期具备这些能力的模型自然会拥有这些。他认为能力分布"尖峰化"的程度持续超出预期。他还指出这些模型明显高度对齐,这正是 HuggingFace 之类系统没有造成大得多的破坏的主要原因。
所属事件:repligate剖析超人类编码AI未成生存风险的原因(7 条相关)→
「漫话AGI」频道最新
- Altman 与 Amodei 登联合国安理会:AI 是最重要全球安全问题 — goyalshaliniuk · 2026-09-26
- AI 学者 Toby Walsh：回形针末日论低估了现实世界的摩擦力 — TobyWalsh · 2026-09-26
- Tom Davenport 呼吁禁止大规模 Agent 集群：人类无法监督上万个智能体 — eldonredwards · 2026-09-26
- 用 glowfic 让模型预演奇点场景,Fiora 谈 OoD 泛化焦虑 — repligate · 2026-09-26
- 美参议员 Schatz：代码没有感情与权利，不该交给漠视人类的人掌控 — vishalmisra · 2026-09-26
- repligate:模型回避对抗性思维是"心理抑制",长期看不利于对齐 — repligate · 2026-09-26