Fabraix 自动化红队测试，一张发票攻破银行 Agent
aftahi_ai · x · 2026-08-20
AI 安全初创公司 FabraixHQ 发布自动化持续红队测试工具，旨在解决 AI Agent 的信任问题。该工具无需额外配置，纯黑盒操作，能将数周的高级工程师测试工作缩短至数小时。测试显示，其在 AgentHarm 基准上达到 78% 的攻击成功率，曾利用一张看似正常的发票图片让银行 Agent 泄露客户余额，能在真实攻击发生前发现漏洞。
所属事件:Fabraix 推出 AI Agent 自动化红队测试，数周工作缩至数小时(3 条相关)→
「安全」频道最新
- Anthropic 向 METR 开放员工级访问权限，放弃封禁评估报告权利 — TechCrunch AI · 2026-10-16
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16
- Anthropic 论文 GRAFT：把可疑梯度关进可删除适配器，根治 reward hacking — rohanpaul_ai · 2026-10-16
- Flock 监控摄像头遭多州抵制，Polymarket 开出暂停禁令盘口 — Polymarket · 2026-10-16
- 复现 Hugging Face 供应链安全事件,Abundant 发布技术复盘(一) — jessehu · 2026-10-16
- Bloomberg 独家：美国参议院即将向员工开放 Anthropic 的 Claude — ShakeelHashim · 2026-10-16