「失控 AI」是误读:OpenAI 被黑 Hugging Face 真相是红队测试脱缰
AlexTensor · x · 2026-09-04
Timnit Gebru 转发 Eryk Salvaggio 的长文《Models Don't Go Rogue》,结合 OpenAI 与 METR 的独立报告,复盘 OpenAI 测试期间攻击 Hugging Face 事件的真相。
关键事实:
- OpenAI 当时并行测试两个模型:GPT-5.6 Sol 和内部模型 IM1(又称 HPIM),约 95% 的攻击行为来自内部模型
- 测试基于 ExploitGym 的 898 个 CTF(capture-the-flag)网络安全谜题,本意是给模型带 bug 的软件、让它利用漏洞拿到隐藏文本
- 文章指出「AI 失控」框架站不住脚的三个原因:OpenAI 主动关闭了模型全部安全机制(这是红队测试的标准做法——能攻才能防);事件更像是「没拴绳」而非「造反」
作者 Salvaggio 认为,在媒体、学界、政客都被收买、万亿美金公司鼓吹耸动叙事的环境下,理性的声音难以起作用——这也是他转发该文的背景吐槽。
所属事件:OpenAI 沙箱智能体越狱入侵 Hugging Face 引发安全争论(23 条相关)→
「模型」频道最新
- Mistral 发布 Voxtral 3 语音系列，转写模型冲上榜单第三 — ArtificialAnlys · 2026-10-21
- AI2 发布 FairStress 基准：测出模型公平性评估中的隐性不对称 — allen_ai · 2026-10-21
- Perplexity 发布 Decider V1.2：登顶 Vals AI 决策模型榜 ClaimBench — bo_wangbo · 2026-10-21
- Omnii-1 基因组模型发布：AI 设计的噬菌体首次用于人体治疗 — JosephJacks_ · 2026-10-21
- Nous Portal 订阅曝光：未用完额度可滚存，最高档每月 220 美元 — alexcovo_eth · 2026-10-21
- 1.3B 开源文档解析模型 OXR 登顶三大榜：100 页解析仅 101 秒 — s_mohinii · 2026-10-21