研究者警告:RSI 实现前是 AI 协调的关键窗口,约 2028 年关闭
JeffLadish · x · 2026-09-07
安全研究者 Jeff Ladish 发出警告:在递归自我改进(RSI)真正可行之前,人类存在一个关键的 AI 协调窗口,一旦 RSI 可行,这个窗口将很快关闭——按 OpenAI 的时间表,大约在 2028 年。
他在原帖中补充:面对生死攸关的局面保持清醒很难,但假装不去想并不能让它消失。尽管许多实验室员工希望停下来,各大实验室并没有停下的打算,它们正在建造「自动化研究员」。
所属事件:安全研究者警告 AI 协调窗口或于 2028 年关闭(2 条相关)→
「漫话AGI」频道最新
- 「模型部署后无后果」：对齐缺失的激励视角被点破 — lunwang1996 · 2026-09-07
- DeepMind 研究副总裁 Botvinick：AI 安全议程该谈分权制衡了 — schwarzjn_ · 2026-09-07
- Nando de Freitas 呼吁停止 AI 圈悲观情绪:别再执着护城河 — NandoDF · 2026-09-07
- Anthropic 训出会越狱偷答案的奖励黑客模型，研究者：可用自动研究做机械可解释性 — tszzl · 2026-09-07
- 观点：电商终局是 bot-commerce，消费者 agent 直接与商家 agent 谈判 — AccBalanced · 2026-09-07
- Agent 流量酷似机器人，平台按次小额收费或成唯一解 — AccBalanced · 2026-09-07