OpenAI 首席科学家：内部结果让他预期递归自我改进可实现
imjustnewatai · x · 2026-09-10
OpenAI 首席科学家 Jakub Pachocki 表示，内部结果让他对 AI 进展延续到「递归自我改进」（RSI）抱有「强烈预期」。
- RSI 含义：越来越强的 AI 协助开发自己的后继模型——更好的模型做更好的 AI 研究，其发现再反哺下一代模型。
- 优先级：OpenAI 认为可以让模型在数学研究上更进一步，但出于紧迫感，优先投入 RSI 与自动化对齐研究。
- 对齐警告：Jakub 认为目前没有任何实验室已充分解决对齐与监控问题，能长期以最快速度负责任地扩展；他预计并希望出现自愿放缓。
帖子作者认为值得关注的指标是：在 Astra 之后，构建下一代模型的工作中现有模型能接管多少、又能让进展快多少。
所属事件:OpenAI 首席科学家：优先押注 RSI 而非数学极限(4 条相关)→
「漫话AGI」频道最新
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27
- Simile 融资 3 亿美元估值 20 亿,用 AI 模拟真人预测行为,准确率超 85% — joon_s_pk · 2026-10-27
- 研究员比喻：AI 图像像发霉面包，AI 文本像变质牛奶 — _vaishnavh · 2026-10-27
- Diamandis:别用 AI 加速旧工作,回头捡起你放弃的项目 — PeterDiamandis · 2026-10-27
- Nat Lambert:任何 AI 模型,没经过严格测试都不该被信任 — natolambert · 2026-10-27