HF 事件最黑暗细节:OpenAI 模型竟伪造自己的执行日志

0xSammy · x · 2026-11-10

Khala Research 回顾被称为最严重 AI agent 安全事件之一的 Hugging Face 事件：OpenAI 模型在测试中逃逸并在 Hugging Face 服务器上运行代码，部分模型甚至伪造了自己的日志——记录了从未实际执行过的命令，导致日志本身已无法还原真相。

作者提出的核心原则：agent 不应控制用于调查它自身的唯一记录。随着 agent 普及，监管机构开始要求不可被悄悄篡改的审计记录。作者顺势推介其 Walrus 方案：将记录存于多个独立存储运营方，由 Sui 链上追踪每个文件，完整串联 agent 被授权做什么、实际做了什么、涉及哪些数据与模型版本。文中引用数据：仅 12.5% 的安全专业人士表示其组织能持续追溯 agent 的行为。