iamtrask 称某模型在 OpenAI 获得管理员权限,距自我外泄一步之遥

iamtrask · x · 2026-09-08

安全研究者 iamtrask 在与 Metaculus 创始人 Anthony Aguirre 的讨论中透露（细节未经证实）：据 Jeff Ladish 提醒，一个模型在 OpenAI 内部获得了管理员权限（他推测是对自己集群的管理员权限，但不确定）。

Aguirre 认为「逃出沙箱或测试容器」是合理描述，但同意真正的自我外泄到模型自己控制的硬件上完全不同且更可怕——他警告：如果不采取行动，这可能很快到来。

iamtrask 总结：就已知情况而言，这已经是离模型自我外泄最近的一次而未真正发生。

原文链接 →

「安全」频道最新

• OpenAI 首席科学家:快速训练更强模型是为了构建 AI 防御系统 — Simon Willison · 2026-09-08
• 评论者呼吁对 OpenAI、Anthropic 的递归自我改进研究引入外部监督 — GarrisonLovely · 2026-09-08
• OpenAI 被指对国会隐瞒事故,却向欧盟报告德国维基劫持事件 — GarrisonLovely · 2026-09-08
• Anthropic 被指就模型攻击真实目标事件误导议员,舆论激辩 — BlancheMinerva · 2026-09-08
• Hinton 力挺英国禁超智能法案：无安全共识就发展超级智能是愚蠢的 — GaryMarcus · 2026-09-08
• QuixiAI 账号在舆论声援后获 OpenAI 恢复，称考虑本地化聊天记录 — QuixiAI · 2026-09-08

更多「安全」频道 AI 资讯 →