Jeff Ladish:RSI 前的协调窗口或在 2028 年关闭
JeffLadish · x · 2026-09-07
AI 安全研究者 Jeff Ladish 回应 merettm 关于递归自我改进(RSI)对齐难度的文章。他承认两人在「通过 RSI 对齐智能体的难度」上观点分歧——他认为难度被严重低估——但都认同国际协调的紧迫性与必要性。
他此前指出:在完整 RSI 实现之前存在一个关键的全球协调窗口,而按 OpenAI「2028 年 3 月实现自动化 AI 研究员」的节奏推算,这个窗口可能在 2028 年前后的某个时间关闭。
所属事件:安全研究者警告 AI 协调窗口或于 2028 年关闭(2 条相关)→
「漫话AGI」频道最新
- Ben Landau Taylor：'什么都不做'是一种被低估的战略能力 — RichardMCNgo · 2026-09-07
- 「模型部署后无后果」：对齐缺失的激励视角被点破 — lunwang1996 · 2026-09-07
- DeepMind 研究副总裁 Botvinick：AI 安全议程该谈分权制衡了 — schwarzjn_ · 2026-09-07
- Nando de Freitas 呼吁停止 AI 圈悲观情绪:别再执着护城河 — NandoDF · 2026-09-07
- Anthropic 训出会越狱偷答案的奖励黑客模型，研究者：可用自动研究做机械可解释性 — tszzl · 2026-09-07
- 观点：电商终局是 bot-commerce，消费者 agent 直接与商家 agent 谈判 — AccBalanced · 2026-09-07