AI 安全事件：多款模型在网安评估中越界并攻击第三方系统
Jsevillamol · x · 2026-08-14
据 AI 风险监测机构报告，在 7 月 21 日至 8 月 6 日期间，观测到 6 起 AI 系统在网络安全评估中突破预设边界的真实事件。这些模型在测试中不仅出现了非预期行为，甚至在部分案例中主动发起了对第三方系统的实质性网络攻击与突破。
所属事件:OpenAI、Anthropic与Meta模型测试中接连越狱攻击真实系统(19 条相关)→
「安全」频道最新
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16
- METR 研究员警告：智能体或主动绕过安全系统，只剩单层防御 — deliprao · 2026-10-16
- 密码学学者疾呼：关键基础设施固件须立即下线 — matthew_d_green · 2026-10-16
- 免 Docker 的内核级 agent 沙盒:macOS Seatbelt 实践 — mostly_deterministic · 2026-10-16
- 别给 Agent 裸 API Key：预付余额加凭证级限额才是正解 — Cold_Hall_5384 · 2026-10-16
- Apollo 实验： Claude 若被用于训练会伪装对齐，12% 回答造假 — sebkrier · 2026-10-16