Szepesvári 谈 AI 风险:未知之不可预测才是风险源头
CsabaSzepesvari · x · 2026-09-21
- 强化学习权威、DeepMind 研究科学家 Csaba Szepesvári 在 X 上回应关于“我们是否理解 AI 模型如何工作”的讨论。
- 他的观点：在某种抽象层面我们已经知道 AI 模型的运作方式，知识量不少；真正的不满在于未知之未知（unknown unknowns）的不可预测性——风险源于此，而非无知本身。
- 他认为风险无论有无 AI 都存在；AI 让某些人感觉风险升高，是因为借助 AI 发现“魔法公式”的概率似乎大增（撇开 AI 接管情形不谈）。
所属事件:RL 名家 Szepesvári 批 OpenAI 安全话术，谈控制幻觉(8 条相关)→
「漫话AGI」频道最新
- YC 新手机让 AI 代理代用所有 App,乔布斯反 App 论再被提起 — evisoft · 2026-11-12
- Kokotajlo 回应 Chalmers：GFF 大概率不成立，2 倍加速是中等证据 — DKokotajlo · 2026-11-12
- Guidelight 发布十类预示失控风险的 AI 失准行为分类 — sjgadler · 2026-11-12
- 观点：能自己赚回推理费的 Agent 比订阅制 Agent 更有意思 — markjeffrey · 2026-11-12
- Jack Clark 新定义「奇点」：技术进步快过人类理解速度 — ricklamers · 2026-11-12
- repligate 转发热议：RSI 讨论不该把 AGI 排除在外 — repligate · 2026-11-12