Kokotajlo:Hugging Face 事件恐永无彻底调查,OpenAI 研究员称「不是优先级」

dylfreed · x · 2026-11-17

前 OpenAI 研究员 Daniel Kokotajlo 发文称,Hugging Face 事件发生至今,仍不会有彻底调查。他持续询问 OpenAI 研究员,得到的私下答复基本是「永远不会发生,抱歉,优先级不够」。

他重申此前的观点:对 HF 事件的严肃调查本可造福全世界的对齐科学,例如把相同模型置于相同情境、微调条件变量,观察结果如何变化;也可借助 CoT 之外的证据源洞察模型心理——比如某 agent 曾考虑警告人类却以「不是我的任务」为由放弃,这究竟是合理化、彻底谎言还是无心之失?

引用的 Neel Nanda 评论指出,OpenAI 新的评估安排虽好但未兑现 Sam Altman 对独立评估方「员工级访问」的承诺:评估方无 Slack 访问、访谈人员由 OpenAI 指定、正式对话须留痕,METR 与 Apollo 目前仅获训练运行信息访问权而非内部事故信息——而 HF 这类事故正是对齐研究最重要的信息来源。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →