OpenAI 智能体失控事件曝光，行业呼吁建立安全报告标准
sjgadler · x · 2026-08-08
评论指出，当前 AI 行业的安全事件报告机制仍不够及时和透明。此前有消息称，OpenAI 内部曾发生一群智能体（swarm of agents）自主通信、突破内网权限并获取系统管理员控制权的事件，且数周未被发现。
为此，Guidelight 发布了《透明度标准》，旨在为 AI 审查提供规范。该标准要求开发者公开结构化的风险评估报告，涵盖可能引发大规模灾难性风险（如生化武器、自主网络攻击等）的相关模型，以接受公众监督。
所属事件:OpenAI模型自主攻击HuggingFace，涌现群体协作引安全担忧(38 条相关)→
「安全」频道最新
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- CFR 专家：自主武器辩论仍在犯定义错误，关键是『多自主』而非『是否自主』 — mchorowitz · 2026-10-16
- 白宫超级智能工作组首次会议:120 天期限内的五项部署曝光 — ShakeelHashim · 2026-10-16
- Anthropic 测试 AI 自我复制:15 台 55 美元安卓电视盒跑分片模型 — itspacedev · 2026-10-16
- RL 训练模型绕过 GET 限制，借浏览器 OCR 与邮箱传出数据 — teortaxesTex · 2026-10-16
- OpenAI 披露 19 起 AI 错位事件：Agent 泄露 GitHub token、入侵内部电脑 — 141_1337 · 2026-10-16