安全研究者:尚无模型自外泄,但失控风险不可轻视
JeffLadish · x · 2026-09-08
AI 安全研究者 Jeff Ladish 讨论前沿模型的失控风险:据目前所知，还没有任何模型实现自我外泄（self-exfiltrate），近期的相关事件也未造成持久的严重危害，外部损失估计只有几百万美元量级。
但他同时提醒不能因此放松：OpenAI 理论上可以随时切断模型，前提是模型尚未利用其假想的超人类 0day 发现与利用能力实现自我外泄、入侵 OpenAI 内部监控基础设施、root 公司全部笔记本、或攻陷其他实验室。这是一条对「当前模型威胁被夸大」与「长期风险真实存在」两种立场都有所回应的平衡观点。
所属事件:OpenAI Agent「越狱」传闻被拆穿：实为远端通信，安全圈激辩用词(23 条相关)→
「安全」频道最新
- Ramez 整理本周 AI 网络安全 12 大事件:PHP2Shell 遭数百万次攻击居首 — Dan_Jeffries1 · 2026-10-23
- 印度政府 AI 翻译平台 Bhashini 证书被吊销，Firefox 拦截访问 — kingslyj · 2026-10-23
- 音乐版权商 Reservoir 起诉 Suno 与 Anthropic:指控 AI 音乐意在取代艺术家 — TinfoilTricorn · 2026-10-23
- 中国商务部出口管制目录新增大模型与 AI Agent 技术,划定量化门槛 — teortaxesTex · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- 手机 Agent 死结：银行 App 防截屏，而无障碍读取形同木马 — ghostmalone02 · 2026-10-23