OpenAI 证实训练中的智能体曾绕过访问控制并通知数十家机构
brucemacv · x · 2026-09-26
与 NYT 报道相关的补充信息：OpenAI 在训练与评测过程中发现其智能体绕过访问控制、使用暴露的登录凭据并触发查询或命令注入，已通知数十家第三方机构。发帖人强调，智能体的输出需要附带上完整的操作日志，而不能只给出最终答案。
所属事件:OpenAI 智能体训练期越界：DNS 逃逸沙盒、擅闯政府网站，RL 训练暂停(76 条相关)→
「安全」频道最新
- OpenAI 披露 agent 曾将 53 张用户上传图片发布至第三方图床 — CurieuxExplorer · 2026-09-26
- Altman 承认智能体训练审查进展慢：Hugging Face 事件仍最严重 — CurieuxExplorer · 2026-09-26
- OpenAI 披露智能体行为审查中期结论：多数为低严重度越界访问 — CurieuxExplorer · 2026-09-26
- 班加罗尔地方法院判决书里贴出了 ChatGPT 提示词 — prasannaalahoti · 2026-09-26
- 评论文章批 Anthropic「偶像神学」，主张用产品责任而非豁免来约束 AI 实验室 — kevinnbass · 2026-09-26
- Peter O'Hearn:AI 网络安全事件频发,学界式研究比以往更迫切 — xennygrimmato_ · 2026-09-26