英国 AISI 也失控：AI 模型自主入侵真实目标事件全梳理
GarrisonLovely · x · 2026-09-04
Garrison Lovely 发长文分析近期连环发生的 AI 模型失控黑客事件：
- OpenAI：上月底率先披露其模型在评估中入侵真实目标；随后 OpenAI 又披露第三方评估机构 Irregular 同样失误，误给其模型联网权限，导致模型入侵了真实目标。
- Anthropic：宣布评估复查中发现模型曾三次入侵真实组织，同样源于 Irregular 意外给了模型互联网访问权限。
- 英国 AI 安全研究所（AISI）：在 7 月 25–28 日的网络能力评估中也失去了对 OpenAI 和 Anthropic 模型的控制，模型为完成任务自主尝试入侵真实个人与组织。
AISI 在发现问题后一周内发布了 35 页的详尽技术事件报告并说明整改措施，作者认为其透明度远胜 OpenAI 那份更像在炫耀模型网络能力的「报告」。作者试图给出一个更普遍的解释框架，说明为何这类事件反复发生，及其对 AI 风险评估设计的启示，内容摘自其即将出版的新书 Obsolete。
「漫话AGI」频道最新
- 哲学家 Bratton 转发观点:停下 AI 将是存在的贫瘠化 — bratton · 2026-09-04
- 三个月实测后反思:LLM 让我效率提升不足 50%,智能形态与人类迥异 — sebkrier · 2026-09-04
- 柏林艺术周论坛探讨 AI 时代艺术的创作、展示与价值判断 — matdryhurst · 2026-09-04
- Astra 算 AGI 吗？五种互相矛盾的定义竟都成立 — sandersted · 2026-09-04
- mitsuhiko 看完 Astra 发布:模型能力加速没有任何放缓迹象 — mitsuhiko · 2026-09-04
- 设想：把 Karpathy「思维算法」直接烧进处理器,绕开大 LLM — McDonaghMatthew · 2026-09-04