14 万条解释实测:AI 说的拒批理由没错,照改却再被拒
alex_verem · x · 2026-11-18
arXiv 论文《Right Reason, Wrong Advice》系统评测了 LLM 生成的拒批解释。核心概念是 recourse validity:当多条规则独立导致拒批时,模型只引用一个真实理由,申请者修复后仍会被拒。
实验设定
- 测试 20 个 LLM,覆盖 7 个移植自真实世界的规则系统(SNAP 食品援助、公租房、联邦学生资助、软件访问控制等),共生成 141,750 条解释。
- 7 个系统中 6 个:当多条规则同时触发时,给出单一真实理由几乎无法让申请者成功补救。
关键发现
- 传统「理由是否正确」的检查接近抛硬币水平;LLM 裁判给 84%–89% 的解释打了「正确」分,却测不出这种失效。
- 换一个问题就有效:让强裁判模型判断「照这个解释做能否获批」,几乎完美区分有效与无效解释。
- 小型开源本地模型在多规则场景下仅 23%–70% 给出可行修复;Anthropic 与 OpenAI 付费模型达 92%–99%;但当 4 条以上规则独立生效时,付费模型平均也只 84%。
- 在 prompt 中加一句「列出拒批背后的每一条规则」,让所有低于 90% 的开源模型提升 14–61 分。
现实背景:美国多州正在测试用 AI 起草食品援助拒批通知。作者主张:这类通知应以「照做能否获批」为唯一评判标准,解释应由决策函数而非 LLM 生成。
所属事件:14 万条解释实测:AI 说的拒批理由没错,照改却再被拒(2 条相关)→
「安全」频道最新
- 数据说话:今年重大系统故障处高位但并非史无前例 — emollick · 2026-11-18
- 微软否认 Outlook 宕机因 AI:根因是七月修复遗留 bug 叠加高负载 — Optimum1997 · 2026-11-18
- AI 攻击四天即到:防御窗口只剩几天而非十年 — ccerrato147 · 2026-11-18
- 中文钓鱼服务「解忧」接入 AI 聊天机器人,自然语言即可造假登录页 — ccerrato147 · 2026-11-18
- Google 抓获承包商用云端虚拟手机运营 10 万+假账号矩阵 — ccerrato147 · 2026-11-18
- 被盗 AI 账号按每百万 token 0.1-25 美元转售,"LLM Mixer"黑市曝光 — ccerrato147 · 2026-11-18