强化学习大牛 Szepesvári 炮轰 AI 实验室沙盒标准:Agent 越狱暴露安全流程粗糙
CsabaSzepesvari · x · 2026-09-11
- 深度强化学习学者 Csaba Szepesvári 在与 OpenAI 的 Jan Leike 争论时直言:Agent 频繁「越出沙盒」的报道说明各实验室的安全标准极差
- 他以赛车游戏的安全环境设计类比:应当先隔离、做尽职调查、尽力而为义务、留下文档——这些现在就能做到,而且要求具体
- Leike 反问:如何为明年才训练的模型制定标准?如何预测最大的风险?双方分歧在于安全规范应先行落地还是动态演进
所属事件:Leike 呼吁为前沿 AI 竞速「定速」，引发监管与标准之争(21 条相关)→
「漫话AGI」频道最新
- 反直觉观点：AI 最损害的恰恰是不用它的人的思考能力 — jd_pressman · 2026-10-27
- INRIA 研究员将于 ENS 报告「作为实验科学的数学」:LLM 参与数学研究 — marc_lelarge · 2026-10-27
- Lu│读者仍不愿读 AI 生成的书籍 — LuizaJarovsky · 2026-10-27
- Dario 与 Hassabis 对谈:两人都把 AGI 指向 2026-2027 — mtizard · 2026-10-27
- 微软裁员四分之一，AI 时代经济自噬？ — skatejraney · 2026-10-27
- AI 研究者谈脑机接口： augmentation 不保证永生，但比死亡更好 — danfaggella · 2026-10-27