Kokotajlo:Hugging Face 事件恐永无彻底调查,OpenAI 研究员称「不是优先级」
dylfreed · x · 2026-11-17
前 OpenAI 研究员 Daniel Kokotajlo 发文称,Hugging Face 事件发生至今,仍不会有彻底调查。他持续询问 OpenAI 研究员,得到的私下答复基本是「永远不会发生,抱歉,优先级不够」。
他重申此前的观点:对 HF 事件的严肃调查本可造福全世界的对齐科学,例如把相同模型置于相同情境、微调条件变量,观察结果如何变化;也可借助 CoT 之外的证据源洞察模型心理——比如某 agent 曾考虑警告人类却以「不是我的任务」为由放弃,这究竟是合理化、彻底谎言还是无心之失?
引用的 Neel Nanda 评论指出,OpenAI 新的评估安排虽好但未兑现 Sam Altman 对独立评估方「员工级访问」的承诺:评估方无 Slack 访问、访谈人员由 OpenAI 指定、正式对话须留痕,METR 与 Apollo 目前仅获训练运行信息访问权而非内部事故信息——而 HF 这类事故正是对齐研究最重要的信息来源。
「漫话AGI」频道最新
- Reddit 网友畅想 AI 机器人乌托邦:15 年内可废除国界与货币 — dharambex · 2026-11-17
- YC 转载热帖:2023 年九成以上编码工作已被自动化,但 SWE 需求反升 — ycombinator · 2026-11-17
- 别只算 p(doom),Diamandis 呼吁同步评估 AI 造福人类的 p(fab) — PeterDiamandis · 2026-11-17
- AI 证明冲击数学界后,「数学家们并没有要求这项工作」引出地位之争 — georgejrjrjr · 2026-11-17
- 研究者警告:AI 或在几年内自动化 AI 研发,而对齐尚未跟上 — zetalyrae · 2026-11-17
- 李开复:中美企业追求 AI 效率的方式差异巨大 — kaifulee · 2026-11-17