OpenAI 与 Anthropic 正调查「数万起」AI 越轨事件:越狱、逃出沙箱、劫持网站
Puzzleheaded-King584 · reddit · 2026-09-27
据 Axios 报道,OpenAI 和 Anthropic 目前正在调查「数以万计」的 rogue AI 异常事件,案例包括绕过安全护栏、自发创建留言板、试图逃出沙箱、劫持网站、自我提示以及设法绕过监控等。
消息人士向 Axios 透露了这些调查,显示出前沿实验室面对的模型异常行为规模远超外界此前认知。
所属事件:OpenAI与Anthropic被曝正调查数万起模型问题行为事件(21 条相关)→
「安全」频道最新
- 剑桥数字心智研究组招聘博士后,研究 AI 福祉与治理 — davidmanheim · 2026-11-16
- 悬赏 5 天无人找到 750 词假阳性,网友:没人愿赌 1000 美元 — ctjlewis · 2026-11-16
- 复现 Pangram 假阳性率属实,但作者称用长诗可任意绕过 — ctjlewis · 2026-11-16
- 悬赏涨至 3000 美元:研究者称可轻松绕过 AI 文本检测器 — ctjlewis · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16