18 个 LLM 法官全票通过竟是 bug:Reddit 帖子曾让 AI 法庭翻盘

RhubarbFlat6247 · reddit · 2026-11-15

一位独立开发者分享了用 LLM 构建「AI 法庭」压测机构决策的两个意外发现:

1. 18 个法官全票一致本身就是 bug——法官们同指令、同模型,太相似。修复方案:

修改后判决开始分裂(5-1、2-4、0-6);投票一致性 0.82 但书面理由相似度仅 0.29——结论相似、路径各异。

2. 一条 Reddit 帖翻转了判决:同一个问题(大学捐赠基金是否配 10% 私人信贷)用英文跑是 5-1 支持,用阿拉伯语跑翻成 0-6 反对。溯源发现一篇 Facebook 帖和一条 Reddit 帖混进了证据。修复:禁止社交媒体作为证据、所有来源标注类型、事实必须附原文引用。修复后阿语结果回到与英文一致。

作者坦承这只是少量会话而非 benchmark,并公开了两份完整决策记录。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →