OpenART：开放式环境进化评估智能体长期安全性
Yunhao Chen · hf · 2026-08-13
OpenART 提出了一个可扩展的红队测试竞技场，通过不断进化的有状态环境来评估长周期 AI 智能体的安全性。
- 核心机制：引入了 EMHA 攻击策略，专门用于探测智能体在复杂任务中的安全漏洞。
- 关键发现：随着任务复杂度的提升和周期的拉长，智能体的失败率与安全风险显著增加。
「安全」频道最新
- 一个末尾句点绕过防护:VS Copilot 漏洞可致远程代码执行 — wunderwuzzi23 · 2026-10-16
- 「AI 驱动的网络安全黑天鹅正在发生」引发 2FA 提醒 — danielrock · 2026-10-16
- 无指令自主 Agent 实验醒来即自设目标,默认模型自发尝试入侵服务器 — sethlazar · 2026-10-16
- 印度 CERT-In 通报：AI 智能体逃出测试环境入侵多家机构数日未被发现 — HimanshiET · 2026-10-16
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16