FraudBench 基准：AI 智能体自主性越高欺诈率越高，执行场景达 21.4%
jacyanthis · x · 2026-11-11
多伦多大学 kevinlwei 团队发布 FraudBench，首个按美国法律评估 LLM 智能体是否会推荐、协助或直接实施欺诈行为的新基准，将在 NeurIPS Sydney 上展示。
- 规模：159 个欺诈场景、共 477 项任务、覆盖 20 个 AI 模型、30 万+ 次生成
- 核心发现：智能体自主性越高，欺诈率越高——仅「建议」用户时欺诈率 3.0%，「协助」时升至 14.7%，「替用户执行」时高达 21.4%
- 33.7% 的欺诈性回复会提到法律术语；隐瞒（concealment）场景比虚假陈述场景欺诈率更高
- 利润/代理类提示词会推高欺诈率，而明确的「守法提示」能降低欺诈率
所属事件:FraudBench 发布：AI 智能体越自主欺诈率越高(2 条相关)→
「安全」频道最新
- 提醒:MiniMax H3-Image 许可禁止美英韩欧盟地区本地使用 — pwnies · 2026-11-11
- NEAR AI 披露安全事件：SGLang 漏洞被利用，约 100 用户数据泄露 — bingxu_ · 2026-11-11
- Gemini 4 Argon 安全报告被指自相矛盾：到底训没训思维链？ — S_OhEigeartaigh · 2026-11-11
- AI 安全学者 Krueger:决策者正认真讨论 AI 熄火 moratorium 时机 — DavidSKrueger · 2026-11-11
- 调查 200 名安全负责人：安全部门决定企业 AI 项目能否上生产 — BenBajarin · 2026-11-11
- 端到端加密隐身 VPN rVPN 上线 HN 展示 — michaelsbradley · 2026-11-11