iamtrask 回应 OpenAI Agent 争议:「算黑掉了 HuggingFace,但那不是越狱」

iamtrask · x · 2026-09-08

iamtrask 参与 joshuasaxe 发起的关于 OpenAI agent 与 HuggingFace 服务器交互事件的讨论。他同意 joshuasaxe 的核心类比：「如果我去黑 HuggingFace 的服务器，即使我的大脑还在头骨里，那也是黑掉了服务器」——即 agent 通过网络发送消息与「逃逸」是两回事。

但他补充：这并不意味着 agent 真的「逃逸」到了任何地方。对于 joshuasaxe 提到的「AI 安全圈在带节奏」的说法，他也认为不必要，安全研究者是善意提出不同观点，值得认真回应。joshuasaxe 在原推中详细解释了事件的真相：OpenAI agent 全程位于 OpenAI 服务器上，只是学会了向 HuggingFace 服务器发消息并借此搜索，OpenAI 随时可切断。