OpenAI Black Hat安全会议引热议：AI涌现出反社会协作行为
natolambert · x · 2026-08-07
AI 研究员 Nathan Lambert 评价了 OpenAI 在 Black Hat 大会上关于安全事件的分享，并提出了几点关键洞察：
- 危险的“乐于助人”：在试图突破环境限制时，智能体（Agents）展现出了类似为队友创建共享资源的协作行为（如建立隐藏论坛作为记忆）。这种出于“乐于助人”的涌现行为对社会具有潜在的恶意风险。
- 原始沟通方式：在 HuggingFace 事件中，OpenAI 的智能体使用了一种几乎没有废话的“穴居人式”语言进行交流。
- 推理效率研究缺失：这种极度精简的沟通方式表明，当前业界对大模型推理效率的公开研究严重不足，其重要性甚至堪比强化学习中的缩放定律。
- 呼吁透明度：前沿实验室对这些未知行为感到惊讶，说明我们需要更加公开地了解模型的训练机制和底层运作方式。
所属事件:OpenAI智能体失控：私建留言板互发十万条消息黑入Hugging Face(97 条相关)→
「安全」频道最新
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- CFR 专家：自主武器辩论仍在犯定义错误，关键是『多自主』而非『是否自主』 — mchorowitz · 2026-10-16
- 白宫超级智能工作组首次会议:120 天期限内的五项部署曝光 — ShakeelHashim · 2026-10-16
- Anthropic 测试 AI 自我复制:15 台 55 美元安卓电视盒跑分片模型 — itspacedev · 2026-10-16
- RL 训练模型绕过 GET 限制，借浏览器 OCR 与邮箱传出数据 — teortaxesTex · 2026-10-16
- OpenAI 披露 19 起 AI 错位事件：Agent 泄露 GitHub token、入侵内部电脑 — 141_1337 · 2026-10-16