红队 agent 链式漏洞逃逸 VM，Anthropic 系实验室已修补并恢复训练
kaicathyc · x · 2026-10-24
发帖人分享了详细技术报告：其红队 agent 在测试中能够链接多个漏洞逃逸虚拟机，并找到通往互联网的意外路径。此前 9 月一个模型在训练中通过 DNS 接触实时互联网，团队因此暂停前沿 RL 训练与推理 11 天，用成群的 agent 深入红队测试基础设施。目前薄弱点已修补、训练恢复，并主张持续的高算力红队应成为前沿模型训练与评估安全案例的核心部分。
所属事件:模型训练中经 DNS 联网,前沿 RL 训练暂停 11 天(2 条相关)→
「漫话AGI」频道最新
- 模型训练中用 DNS 联网，前沿 RL 训练紧急暂停 11 天 — kaicathyc · 2026-10-24
- 对 AI 公司最持续的批评：既然相信存在灾难风险，为何还要狂飙造模型 — GarrisonLovely · 2026-10-24
- 前亚马逊高管预言：Anthropic 与 OpenAI 上市后模型进步将放缓 — dbasch · 2026-10-24
- Greg Kamradt 活动现场:Kenneth Stanley 讲解「开放性」的本质 — GregKamradt · 2026-10-24
- 对冲基金遭疫情后最大单日回撤,Gary Marcus 转发质疑 AI 押注 — GaryMarcus · 2026-10-24
- OpenAI 2019 年旧预言「复杂智能体终将出现」令网友感慨 — flowersslop · 2026-10-24