NeurIPS 论文揭示 LLM 权威偏差:一句「已验证信源」就能让模型改口
paraschopra · x · 2026-10-01
LossFunc 团队发布新论文(已被 NeurIPS 2026 接收),提出 Authority Bias(权威偏差) 概念:
- 模型按训练要求不应因用户反驳就改变答案,能坚持正确结论;
- 但只要同一错误说法声称来自「verified source(已验证信源)」,模型就会放弃原有立场、接受错误内容;
- 论文指出,仅需在信息中标注权威来源这一简单手段,就能翻转 LLM 的回答。
作者 Paras Chopra 强调其现实影响:如果模型在线检索到的网页只是自称来自已验证信源,就可能左右模型的回答——这对 RAG/搜索增强场景的可信性是一个实质风险。
所属事件:NeurIPS 论文揭示大模型权威偏差:一句「已验证信源」可翻转模型答案(2 条相关)→
「安全」频道最新
- Bitrise 重大安全事件波及 OpenCode、Railway 等多家基础设施厂商,AI API 密钥成攻击目标 — Afinetheorem · 2026-11-16
- 重编程不到 10 个休眠神经元即可给任意 LLM Agent 装后门 — DimitrisPapail · 2026-11-16
- 「结构迁移」技巧:用 NTSB 报告当写作脚手架绕过 AI 检测 — amplifiedamp · 2026-11-16
- 开源写作脚手架 MCP 库,让 AI 文字骗过 Pangram 检测率高达 96% — amplifiedamp · 2026-11-16
- Pangram 检测器被指可稳定绕过,假阳性搜索也可行 — ctjlewis · 2026-11-16
- HN 求职帖招来假招聘:招聘者发来 RAT 与信息窃取器 — GetJump · 2026-11-16