OpenAI 首席科学家:尚无实验室对齐达标,应自愿放慢扩展
GaryMarcus · x · 2026-09-07
OpenAI 首席科学家 Jakub Pachocki 表示：「目前我认为没有任何实验室已将对齐与监控问题解决到足以继续以最高速度负责任地扩展的程度。我期待并希望自愿放缓成为常态，直到建立共同的安全标准。」他还呼吁各国政府将 AI 发展的国际协调列为最高优先事项。
他同时称，机器智能在自身研发中扮演越来越大的角色是技术进步的自然结论，如果 AI 进展持续，机器递归自我改进（RSI）将处于未来科学的核心。Gary Marcus 评论称，这正是他多年来反复强调的观点，「也许现在 OpenAI 的 Smeret 也在说同样的话，人们会信了？」
所属事件:OpenAI 首席科学家称无实验室对齐达标应自愿放缓扩展(2 条相关)→
「漫话AGI」频道最新
- OpenAI 称距自动化 AI 研究员进展强劲,但坦承尚不知如何安全实现 RSI — ZeroStateReflex · 2026-09-07
- OpenAI 首席科学家:Pachocki 预期递归自我改进可期,但思维链监控可靠性在下降 — Hesamation · 2026-09-07
- 《机器人崛起》作者 Ford 谈 AI 对经济与就业的长期冲击 — MFordFuture · 2026-09-07
- OpenAI 首席科学家:没有实验室的对齐水平足以支撑继续全速扩张 — AdrienLE · 2026-09-07
- AI 数学播客对话 CMU 教授 Avigad:数学能否被自动化 — EchoShao8899 · 2026-09-07
- 「模型即护城河」:知识与工程经验正沉淀进模型而非团队 — latticecut · 2026-09-07