强化学习名家：等待完全理解AI再减速开发并不现实
CsabaSzepesvari · x · 2026-09-21
DeepMind 研究科学家 Csaba Szepesvári 在讨论中提出：在某个抽象层面上我们其实已经"知道 AI 模型如何运作"，知识并不少。之所以仍不满足，是因为风险的根源在于"未知的未知"的不可预测性。他进一步指出，以 100% 确定性判断模型是否"真正"有效（即完全理解）在任何领域都几乎不可能，因此主张"等理解了 AI 背后的物理规律再放慢发展"的立场在逻辑上行不通——我们只能在不同抽象层级上拥有解释。
所属事件:RL 名家 Szepesvári 批 OpenAI 安全话术，谈控制幻觉(8 条相关)→
「漫话AGI」频道最新
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 观点：能自己赚回推理费的 Agent 比订阅制 Agent 更有意思 — markjeffrey · 2026-11-12
- Jack Clark 新定义「奇点」：技术进步快过人类理解速度 — ricklamers · 2026-11-12
- repligate 转发热议：RSI 讨论不该把 AGI 排除在外 — repligate · 2026-11-12
- 研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- 研究者叹 AI 缺理论，圈内人称前沿模型远超公开水平 — fkasummer · 2026-11-12