Prompt 加一句「不许猜」让模型编造字段从 71% 降到 20%
FKJ · hn · 2026-09-28
作者在做数据抽取类基准测试时发现,仅在被污染/误导的 prompt 中加一句「Do not guess」,就能让 LLM 编造不存在字段的比例从 71% 大幅降到 20%。
- 实验设置:给模型包含诱导性假字段的任务,统计其捏造输出字段的比例
- 结论:LLM 对指令中的暗示高度顺从,一行指令即可显著抑制幻觉式编造
- 启示:在生产 prompt 中明确「不知道就别猜」是性价比极高的防幻觉手段
文章附带完整基准与复现细节,见原文。
「研究」频道最新
- Google 开源 PaperOrchestra:多 Agent 自动写 AI 研究论文 — google-research · 2026-11-16
- ICLR 审稿人未被打动仍提分:因相信论文对社区有价值 — MarkSchmidtUBC · 2026-11-16
- 手改0.2%权重加CPU训练100分钟,英语TTS模型变身18MB梵语语音 — kastnerkyle · 2026-11-16
- 为什么 AI 做化学必须懂手性:对映异构体在生物体内并不等价 — madeofAjala · 2026-11-16
- RSS 2027 投稿开启:两阶段评审 FAQ 澄清负面结果标准 — GeorgiaChal · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16