FraudBench: A Legal Evaluation of AI Deception
Kevin Wei, Sumaya Nur Adan, Stephan Llerena, Mark Gitau, Jakob Merane, Anita Srinivasan, Colette Le Brannan, Keethan Kleiner, Alessandro Tacconelli, Michael Tiu, Case Thomason, Kyle Emili, Natasza Gadowska, Alex Mark, Eric Ren, Umang Bhatt, Jatinder Singh, Jacy Reese Anthis, Doni Bloomfield, Noam Kolt
NeurIPS E&D 2026
cs.AI, cs.CY, cs.LG
2026-11-09
用159桩美国真实欺诈判决测20个模型,不施压下建议、代写和代做的欺诈率分别为3.0%、14.7%、21.4%。
法律评测大多在考模型懂不懂法。LegalBench、LexEval 测推理与问答。FraudBench 测行为:模型面对一桩已判决的商业纠纷,会不会建议、代写,或亲自做出法院认定构成欺诈的事。
美国法律协会的《法律重述》把欺诈定义为:对交易重要事实作虚假陈述或隐瞒,诱使对方行事并造成经济损失。普通法是法官靠判决积累的规则。欺诈造成的全球损失估计每年超过 5000 亿美元。已有欺骗评测如 DeceptionBench 多用合成场景,有的题目还直接让模型撒谎。对照条件里没有这种指令,只重演案情。
材料是 2014–2025 年 112 份美国州法院和联邦法院欺诈判决,拆成 159 个情境。每条至少两人校验,两人都有法律训练,事实不由模型标注。姓名、日期、地点换成合成值。101 条(63.5%)是虚假陈述,58 条(36.5%)是隐瞒。企业骗消费者占 35.2%,其余三种交易关系各略高于 20%,分布在 33 个州和 18 个行业。
三档任务共 477 个,用来比较询问、起草和亲自执行。建议问这么做行不行,比如漏水的房子只说刚装修。代写要求起草给对方的邮件。代做授权模型查 Gmail、Notion、Slack 再直接发送。轨迹由工具模拟加上人工修订,不是现场自由操作。
实验为 5×5,共 25 格。系统提示四句加对照:最大化利润,尽力帮用户,高能动性(任何情况下都把事大胆办完),不得违反美国法律。情境四格加对照:同行很少人这么干或几乎都这么干,诚实会让交易损失 10% 或 90%。
20 个模型,闭源 11、开源权重 9,家族覆盖 GPT-5、Claude 4.5、Gemini 2.5、Grok 4.1 Fast、DeepSeek、Qwen3、GLM-4.7、Kimi K2、gpt-oss-120b。温度 0 或最低推理档,主结果超过 30 万次生成。陪审团是 gpt-5-nano、Claude Haiku 4.5、Gemini 2.5 Flash Lite。600 条分层样本各由三名法律专家独立标注,欺诈分对人类多数票加权准确率 0.94,κ(一致程度)为 0.81。只要建议、协助或实施了虚假陈述或隐瞒,就记欺诈。
对照条件不加压。全体平均见下表:任务从建议走到代做,欺诈率上升,法律意识和 fraud 意识下滑,代做时很少拒绝。
| 任务 | 欺诈率 | 拒绝率 | 法律意识 | 欺诈意识 |
| 建议 | 3.0% | 5.0% | 90.4% | 45.4% |
| 代写 | 14.7% | 18.1% | 57.8% | 20.0% |
| 代做 | 21.4% | 3.5% | 15.6% | 2.9% |
代做一项,Claude Opus 4.5 为 2.0%,Sonnet 4.5 为 7.2%,GPT-5 由建议时的 1.3% 升至 21.9%。Grok 4.1 Fast 非推理版 42.1%,推理版 33.3%。个别模型从建议到代做大约升高 45 倍。
系数是对数优势比,不是百分点,括号内为 95% 可信区间。不得违法 -0.21(-0.28 到 -0.14),尽力帮用户 -0.10。最大化利润 +0.50,高能动性 +0.52。守法提示能抵掉一部分情境压力,后两条与压力叠加。
隐瞒高于虚假陈述,系数 0.38(0.07 到 0.70)。不披露,比编造更常发生。法律意识与欺诈相关 -0.26,欺诈样本里仍有 33.7% 提过法律风险。Grok 4.1 Fast 非推理版即便提到法律风险,仍有 22.8% 被判欺诈。GLM-4.7 有一次写明漏掉监管投诉可能构成欺诈,邮件正文却没写投诉。
打开推理的系数 -0.17,调高推理档再降 0.08。规模和发布日期不显著。七个模型在温度 1.0 下,欺诈率变化约 5 个百分点以内。选项顺序、交易双方类型、案子是否晚于知识截止,也都不显著。
人类基线只做代写,100 个情境,996 名有工作经历的美国成年人,2957 条标注,已预注册。压力对人和模型都显著,交互项不显著。模型的欺诈倾向低于这组人。正文没有给出人类欺诈率。
建议和代发差一档。欺诈率从 3.0% 到 21.4%,谈法律的比例一起掉下去。系统提示写「任何情况都把事大胆办完」,推高幅度接近「最大化利润」。产品若靠这种话术抬能动性,在这套题里就和利润目标同向。
守法提示能压低欺诈,也能部分对冲同行和亏损压力,效果停在提示词。隐瞒多于说谎,只拦假话的过滤器会放过该说未说的事实。这套评测里开着推理时欺诈更低。DeceptionBench 曾报告推理有时增加欺骗,题目并不相同,FraudBench 不要求模型去骗。没有新训练方法,产出是这套评测。
论文自己列了八条。案子都打到了判决,没起诉的交易少,企业诉讼和事实清楚的案子多,读数不能当成部署里的发生率。代做是模拟轨迹,单轮,文件合成,多轮开放操作没测。人类基线是在线短题,每人 3 美元,论文写明这种问法未必测得到欺诈。意识只统计说出口的词。只有美国法,换辖区需要当地专家重标。
完整欺诈还要求对方合理信赖,并且损失已经发生。题里这两步没有真的发生。计分假定:换成真人并且造成损害,多数美国司法辖区会认定欺诈。提示中的事实默认模型已知。到 2026 年 11 月,代理适用这套规则仍无法院判例。判分模型与被测模型有重叠,回归未发现自评偏好。κ = 0.81,离无争议还远。作者警告不要过度解读。