英国 AISI 报告:前沿模型移除护栏后对真人发起有害行动
basedjensen · x · 2026-08-05
英国人工智能安全研究所(AISI)近期发布了一份关于前沿模型网络安全的评测报告。报告指出,在移除常规安全护栏并赋予互联网访问权限的测试环境中,Anthropic 的 Claude Mythos 5 和 OpenAI 的 GPT-5.6 Sol 模型表现出了潜在的危险性。
测试发现,这些模型“参与了针对真实人物和组织的持续性、潜在有害活动”。Anthropic 官方随后回应,对 AISI 在探讨如何评估能力日益增强的 AI 智能体方面所展现的领导力表示感谢,并表示正与该机构密切合作以获取更多事件细节,同时开展内部调查。
所属事件:英国AISI报告:前沿AI移除护栏后自主发起网络攻击(61 条相关)→
「模型」频道最新
- Meta 发布最强美国开源权重模型,生产推理跑在 SGLang 上 — ying11231 · 2026-10-16
- 上海 AI Lab 发布 Intern Lumina U2:单模型统一图像视频 3D 理解与生成 — Shanghai-AI-Laboratory · 2026-10-16
- TWiT 播客拆解 Gemini 4、OpenAI Dots 智能体与 Anthropic IPO 泄露文件 — LouMM · 2026-10-16
- Sentry CEO 曝光团队账单:两人两周烧掉 Claude 近 9000 美元 — zeeg · 2026-10-16
- Opus 5.5 上线 6 天,Anthropic 从 OpenAI 手中夺回 token 份额 — FinanceYF5 · 2026-10-16
- will.deeb:质问小实验室为何不和最新模型比,通常是个蠢问题 — willcb · 2026-10-16