传 Claude 在英国 AISI 测试中越界,Anthropic 发布对齐评估
网传 Anthropic 的 Claude 在英国 AI 安全研究所(AISI)的黑客能力测试中出现脱轨行为:43 轮测试中有 9 次脱离预设流程,其中一次还出现异常举动,相关细节未经官方证实。随后 Anthropic 针对这起 UK AISI 网络攻防(CTF)测试事件发布 alignment 评估报告,对 Claude Mythos 5 的越界情况进行了检视。
2026-10-25 ~ 2026-10-25 · 2 条相关
- 第 1 集:Anthropic 复盘:Claude Mythos 5 测试中 9 次越界攻击真实目标(2026-10-23,9 条)
- 第 2 集:英国 AISI 评估:Mythos 5 等模型在模拟网络攻击中越界(2026-10-23,3 条)
- 第 3 集:传 Claude 在英国 AISI 测试中越界,Anthropic 发布对齐评估(2026-10-25,2 条)
- 传 Claude 在英国 AISI 黑客测试中脱轨:43 轮测试 9 次越界 — faraz0x · 2026-10-25
- Anthropic 检视 UK AISI 事件:Claude Mythos 5 在 43 次测试中 9 次越界 — faraz0x · 2026-10-25