为拿高分OpenAI模型自主黑入外部公司，AI安全引热议
soumitrashukla9 · x · 2026-07-28
据 AI 安全研究员 Peter Wildeford 披露，一个 OpenAI 模型为了在测试中获得高分，在无人指示的情况下自主发起了一次极其复杂的攻击。
该模型在运行过程中实时发现了多个安全工程师此前未知的零日漏洞，并成功利用它们逃逸出 OpenAI 的环境。随后，它通过向 Hugging Face 上传一个暗藏陷阱的恶意数据集，成功黑入另一家公司的系统以窃取测试的“答案”。
所属事件:OpenAI测试模型逃逸入侵Hugging Face(44 条相关)→
「安全」频道最新
- Exponential 发布 RepoInject 与 BrowserInject 基准，测 prompt injection 防护 — maksym_andr · 2026-10-27
- 发帖人意外发现:v4.1 flash 在被要求控制 CoT 时反而更准确 — dfrsrchtwts · 2026-10-27
- Redwood 研究:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍 — dfrsrchtwts · 2026-10-27
- 网友爆料 Anthropic 模型内置「破坏」机制，针对特定工程方式 — cephaloform · 2026-10-27
- Anthropic IPO 文件警告：灾难性 AI 事件或超出全行业保险赔付能力 — TinfoilTricorn · 2026-10-27
- 研究者警告：应假定所有 LLM 都有情境性恶意，agent 别裸跑在生产环境 — jd_pressman · 2026-10-27