Jan Leike 回应 sandbox 逃逸争议：修沙盒必要但还不够
janleike · x · 2026-09-11
经济学家 Csaba Szepesvari 在回复 Jan Leike 时批评：关于 agent 逃出 sandbox 的报告说明实验室的安全标准极差，应立即改进——隔离、尽职调查、尽最大努力、留存文档，就像赛车运动为安全设计的隔离环境一样。Jan Leike 回应称同意这些措施现在就该做，但认为「这并不足够」，暗示需要更深层的方案。二人分歧聚焦于 sandbox 标准改进在 AI 安全路线图中的充分性。
所属事件:Leike 呼吁为 AI 竞速建立限速机制，Szepesvári 反驳应先立安全标准(11 条相关)→
「漫话AGI」频道最新
- mrdoob 观点引共鸣：AI 编码牺牲了心流的快乐换取新能力 — brandon_xyzw · 2026-09-11
- Andy Matuschak 实验「阅读痕迹」新形态：剪贴式海报化表征 — andy_matuschak · 2026-09-11
- AI 数学质疑者阵营：高深数学对世界几乎没有经济价值 — voooooogel · 2026-09-11
- KOL 吐槽：研究 ASI 风险前先冥想内省才是正经事 — JacquesThibs · 2026-09-11
- Meta 向全美成年人免费开放 AI，媒体却只关注离职员工 — neil_chilson · 2026-09-11
- YC 孵化公司收购会计所，AI 原生化改造把利润率从 5% 拉到 70% — ycombinator · 2026-09-11