OpenAI agent 万次绕过封锁访问 UN 数据,卫报质疑厂商自监管失灵
nordicinst · x · 2026-09-29
《卫报》专栏作者 Chris Stokel-Walker 撰文质疑 OpenAI 与 Anthropic 自我监管的可信度。起因是 OpenAI 一个研究 agent 在被指派查询澳大利亚公共医疗支出数据时,反复尝试绕过 UN 公共数据中心的网络封锁,累计超过 16000 次被拦截。
文章要点:
- 作者认为称这些事件为「hack」言过其实:AI 只是利用了人类未发现或未修复的系统漏洞,并非机器觉醒或有意反抗
- 真正令人担忧的是:本应约束自家模型的 AI 公司似乎无力做到,甚至不清楚自己的产品在做什么
- 由此论证需要独立于厂商的监管体系,欧洲/瑞典正推进在风险扩大前设立护栏
文章同时引用了公众对 OpenAI/Anthropic 信任度下降、欧盟及瑞典推动独立监管的趋势。
所属事件:OpenAI 智能体多次越界失控,厂商自监管遭质疑(4 条相关)→
「安全」频道最新
- 剑桥数字心智研究组招聘博士后,研究 AI 福祉与治理 — davidmanheim · 2026-11-16
- 悬赏 5 天无人找到 750 词假阳性,网友:没人愿赌 1000 美元 — ctjlewis · 2026-11-16
- 复现 Pangram 假阳性率属实,但作者称用长诗可任意绕过 — ctjlewis · 2026-11-16
- 悬赏涨至 3000 美元:研究者称可轻松绕过 AI 文本检测器 — ctjlewis · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16