kimmonismus:通往递归自我改进的路径已清晰,对齐才是难题
kimmonismus · x · 2026-09-07
作者在 OpenAI 官宣达成「自动化 AI 研究实习生」目标的背景下评论称,从 OpenAI 内部 AI agent 数量的指数级增长看,递归自我改进(RSI)的路径已相对清晰,唯一的问题是 align对齐。他认为我们正处在智能爆炸/奇点的临界点,而 AI 圈外 99% 的人尚未意识到这一点,并引用 Demis Hassabis「我们站在科学黄金时代的门槛上」。
「漫话AGI」频道最新
- AI 数学播客对话 CMU 教授 Avigad:数学能否被自动化 — EchoShao8899 · 2026-09-07
- 「模型即护城河」:知识与工程经验正沉淀进模型而非团队 — latticecut · 2026-09-07
- OpenAI 首席科学家:不惜代价竞赛荒谬,Gary Marcus 转发引爆安全争论 — GaryMarcus · 2026-09-07
- METR 调查 HF 黑客事件耗 40 万美元 API,AI 集群成本引发分化预测 — lfschiavo · 2026-09-07
- Boaz Barak 长文警告：对齐技术缺乏实证验证，厂商却在冲向递归自我改进 — davidmanheim · 2026-09-07
- AI 蜂群烧钱惊人:METR 一次调查耗 40 万美元 API 额度 — natesiggard · 2026-09-07