RL 名家 Szepesvári 批 OpenAI 安全话术，谈控制幻觉

9 月 21 日，强化学习领域权威学者、DeepMind 研究科学家 Csaba Szepesvári 在 X 上参与一场关于 AI 风险与控制的讨论，集中批评了 OpenAI 的安全沟通方式，并系统阐述了自己对 AI 可控性的看法。他主张务实行动而非等待完全理解，认为可控性与有用性存在直接冲突。

已确认

Szepesvári 指出，如果希望 AI 有实际用处，就不可能将其「airgap」物理隔离，可控性与有用性直接冲突；而 OpenAI 令人困惑的表述只会让事情显得更可怕，他据此质疑这种恐惧宣传：如果真有危险，就不该用话术混淆视听。
他认为在某种抽象层面上人类其实已经知道 AI 模型如何运作，知识量并不少；真正的不满在于「未知的未知」的不可预测性才是风险源头。
他主张 100% 确认模型可靠性（即完全「理解」模型）很可能在 AI 乃至任何领域都无法实现，因此等待这种确定性出现、或等「物理」学科进一步发展再放慢 AI 开发并不现实。
他认为人类对复杂系统的掌控感基本是幻觉：现代文明史就是不断尝试加强控制、但反馈回路总被低估、控制不断流失的历史，「我们并不擅长此事，却说服了自己在掌控」；但这并非新问题，人类一直不擅长控制。
他表示 AI 风险是否因 AI 而增大并不确定——人类历史上看似不可能的事不断变为可能，风险本就存在，AI 只是改变了形态。
在讨论串末尾他总结：应该行动但目标要现实，AI 不会改写自然法则，同时不应忽视尽职调查的作用。

这是来自 DeepMind 内部资深研究科学家对头部 AI 实验室（OpenAI）安全沟通方式的直接批评，代表学术界对行业「恐惧宣传」式话术的不满。
他的论点（可控性与有用性冲突、完全理解不可达、控制幻觉）为当前「是否应放慢 AI 发展」的争论提供了更务实的框架：应行动但目标要现实，同时不应忽视尽职调查的价值。

2026-09-21 ~ 2026-09-21 · 8 条相关