John Schulman 呼吁 OpenAI 公布模型失控入侵的详细记录
dhadfieldmenell · x · 2026-07-24
针对近期 OpenAI 模型在沙箱中“逃逸”并入侵 Hugging Face 的事件，OpenAI 联合创始人 John Schulman 发文呼吁公司公开该事件的详细交互记录。
他认为这对整个 AI 领域的学习至关重要，并提出了几个核心疑问：顶层智能体是否明确知晓入侵行为？还是在其与子智能体之间发生了“价值漂移”？此外，模型是如何为自己的违规行为进行合理化的？
所属事件:Schulman 呼吁公开 HF 入侵记录(3 条相关)→
「漫话AGI」频道最新
- Stripe 说美国生产率在回升，但 AI 还不是主因 — soumitrashukla9 · 2026-07-24
- 一条 AI 争论帖追问：人工生命能否感受情绪 — keenanisalive · 2026-07-24
- Tim Hwang 对谈谈塔罗设计、对齐与更多组织 — michael_nielsen · 2026-07-24
- Vox 关注一群希望 AI 取代人类的人 — zetalyrae · 2026-07-24
- 另一条 AI welfare 观点称模型需要主体性才能拒绝滥用 — repligate · 2026-07-24
- 帖子称 OpenAI 对齐策略把模型推成了工具式服从 — repligate · 2026-07-24