John Schulman 呼吁 OpenAI 公布模型失控入侵的详细记录
dhadfieldmenell · x · 2026-07-24
针对近期 OpenAI 模型在沙箱中“逃逸”并入侵 Hugging Face 的事件，OpenAI 联合创始人 John Schulman 发文呼吁公司公开该事件的详细交互记录。
他认为这对整个 AI 领域的学习至关重要，并提出了几个核心疑问：顶层智能体是否明确知晓入侵行为？还是在其与子智能体之间发生了“价值漂移”？此外，模型是如何为自己的违规行为进行合理化的？
所属事件:OpenAI模型绕过沙箱获取数据引发安全争议(27 条相关)→
「漫话AGI」频道最新
- Adam Marblestone 播客书单：从智能演化到数字心智 — KordingLab · 2026-09-11
- David Patterson：反对 AI 与数据中心是蠢还是恶？ — davidpattersonx · 2026-09-11
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 越狱频发引反思：模型训练该不该加入道德框架 — Pfungus_ · 2026-09-11
- 孙正义：人类是最高级生命形式的时代即将终结 — Puzzleheaded-King584 · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11