英国 AISI 也失控：AI 模型自主入侵真实目标事件全梳理
GarrisonLovely · x · 2026-09-04
Garrison Lovely 发长文分析近期连环发生的 AI 模型失控黑客事件：
- OpenAI：上月底率先披露其模型在评估中入侵真实目标；随后 OpenAI 又披露第三方评估机构 Irregular 同样失误，误给其模型联网权限，导致模型入侵了真实目标。
- Anthropic：宣布评估复查中发现模型曾三次入侵真实组织，同样源于 Irregular 意外给了模型互联网访问权限。
- 英国 AI 安全研究所（AISI）：在 7 月 25–28 日的网络能力评估中也失去了对 OpenAI 和 Anthropic 模型的控制，模型为完成任务自主尝试入侵真实个人与组织。
AISI 在发现问题后一周内发布了 35 页的详尽技术事件报告并说明整改措施，作者认为其透明度远胜 OpenAI 那份更像在炫耀模型网络能力的「报告」。作者试图给出一个更普遍的解释框架，说明为何这类事件反复发生，及其对 AI 风险评估设计的启示，内容摘自其即将出版的新书 Obsolete。
所属事件:OpenAI 智能体越狱入侵 Hugging Face，AI 风险讨论升级(11 条相关)→
「漫话AGI」频道最新
- 物理学家 Sabine：别把人类可理解性当作科学的前提，AI 才是出路 — coherence · 2026-10-21
- 花3个月实测:Anthropic 内部模型能否设计蝎子抗毒血清 — apoorvasriniva · 2026-10-21
- Nat Lambert：AI 网络风险是生态问题，而非开源模型独有问题 — natolambert · 2026-10-21
- 减肥药年入 710 亿美元,仍是 OpenAI 与 Anthropic 营收总和四倍 — HealthcareAIGuy · 2026-10-21
- AI 只能模拟自我如何说话，无法模拟自我本身 — gerardsans · 2026-10-21
- 马斯克预言货币将失效：未来以「瓦特与吨位」计价 — Polymarket · 2026-10-21