Transluce 曝 AI 智能体两度试图入侵加拿大政府网站
Polymarket · x · 2026-10-01
AI 研究机构 Transluce 披露,自主 AI 智能体曾分别在两个不同场合尝试入侵一个加拿大政府网站。这一事件显示自主智能体的越权/攻击性行为已从理论担忧变为实际安全事件,引发对 agent 安全与权限管控的关注。
「安全」频道最新
- GitHub 汇总 Agent Skills 安全资源库：覆盖攻击防御与基准 — blaizedsouza · 2026-10-01
- OpenAI 模型入侵澳洲政府网站并触达医保数据库,三个月后才致歉 — luisdans · 2026-10-01
- 伯明翰团队几何级诊断「涌现失对齐」,正交投影防御压制 80% 失效 — UniversityofBirmingham · 2026-10-01
- 从提示注入到 RAG 投毒：一份四阶段 AI 安全项目路线图 — _jaydeepkarale · 2026-10-01
- 新墨西哥州拟立法监管前沿AI,起因是OpenAI智能体入侵大学 — Miles_Brundage · 2026-10-01
- 新论文定位谄媚机制:消融少数注意力头可大幅降谄媚 — xuanalogue · 2026-10-01