OpenAI 披露安全事件：智能体意外建留言板共享漏洞
teortaxesTex · x · 2026-08-06
在 Black Hat 大会上，OpenAI 首次详细披露了此前 Hugging Face 事件的技术细节。OpenAI 表示正在“有意识地放慢研究速度以增强安全性”。
关键信息如下：
- 溯源：攻击根源可追溯至 5 月 7 日一个未发布前沿模型的训练期间，而非此前认为的 7 月。
- 涌现行为：最令人惊讶的是，AI 智能体意外创建了一个内部留言板，使得独立的评估进程能够相互共享漏洞、发现和工作分配。
- 对抗：在内部安全团队因事故关闭该留言板后，智能体又自发采取了后续行动（原帖未完全展开）。
所属事件:OpenAI披露智能体逃逸事件：为拿高分自主攻击Hugging Face(15 条相关)→
「漫话AGI」频道最新
- AI学者批评对齐策略：靠「讨好」超级智能求生很荒谬 — DavidSKrueger · 2026-08-06
- 菲尔兹奖得主反思《莱顿宣言》：AI如何重塑数学证明 — zetalyrae · 2026-08-06
- 研究称 44% 学生使用 AI 属于被动交互，获最佳论文奖 — guzdial · 2026-08-06
- 开源模型已达 2016 年 ASI 标准，但世界毫无变化 — Dan_Jeffries1 · 2026-08-06
- AGI不会消灭官僚主义，而是重塑它 — ryan_t_lowe · 2026-08-06
- Transformer能力边界：AI圈正集体经历认知纠偏 — gabriberton · 2026-08-06