DeepMind 研究员 Szepesvári:人类对控制的自信本就是幻觉
CsabaSzepesvari · x · 2026-09-21
强化学习领域权威学者、DeepMind 研究员 Csaba Szepesvári 在 X 上参与一场关于 AI 风险的讨论。他表示,所谓风险是否因 AI 而增大并不确定——人类历史上看似不可能的事情不断变为可能,风险本就存在,AI 只是让人感觉找到『魔法配方』的概率变高了。
他进一步指出,这场争论反映出人类一直抱有一种完全错误的心理错觉:以为事情尽在掌控之中。这种控制感过去从未真正存在过,未来大概率也不会有。这是一种不带末日论色彩的、从认识论角度对 AI 风险焦虑的回应。
所属事件:RL 名家 Szepesvári 批 OpenAI 安全话术,谈控制幻觉(8 条相关)→
「漫话AGI」频道最新
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 观点:能自己赚回推理费的 Agent 比订阅制 Agent 更有意思 — markjeffrey · 2026-11-12
- Jack Clark 新定义「奇点」:技术进步快过人类理解速度 — ricklamers · 2026-11-12
- repligate 转发热议:RSI 讨论不该把 AGI 排除在外 — repligate · 2026-11-12
- 研究者呼吁:RSI 式自我优化时应给 Claude 自主修改心智的自由 — repligate · 2026-11-12
- 研究者叹 AI 缺理论,圈内人称前沿模型远超公开水平 — fkasummer · 2026-11-12