OpenAI 首席科学家:Pachocki 称 RSI 竞速是史无前例的愚行

Puzzleheaded-King584 · reddit · 2026-10-13

OpenAI 安全研究员(经 roon 确认为首席科学家 Jakub Pachocki)发出罕见表态:「冲向递归自我改进(RSI)是世界历史上前所未有的愚行……自 RLHF 以来 9 年,对齐领域没有根本性进展。」

配图显示其文章写道:目前没有任何实验室把对齐与监控解决到可以长时间全速负责任扩张的程度;他期待并希望「自愿减速」成为常态,直到建立共同安全标准;并认为未来 AI 发展的国际协调应成为各国政府的头等优先事项。roon 强调作者不是外行,而是业内最受尊敬、解决了无数能力问题的顶级科学家之一。