Hallucination Self-Play:检测器与造假器交替对抗,自我进化识别幻觉

burkov · x · 2026-11-17

Andrey Burkov 介绍了一种应对 LLM 幻觉的新方法 Hallucination Self-Play(HSP)。

背景:大模型虽能判断回答是否有文档支撑,但成本和延迟使其不适合日常部署;小型专用检测器更便宜,却受制于人工标注稀缺、合成数据又太容易被其学会。

核心思路:检测器与幻觉生成器从同一个基座模型出发,交替进化——生成器不断产出更有挑战性的幻觉样本,检测器随之提升判别能力,形成自我博弈式的对抗训练。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →