SIRIN 统一检索增强与记忆型 LLM 的幻觉检测

_reachsumit · x · 2026-08-04

SIRIN 是一个统一工具包和交互式网页界面，用来检测检索增强、智能体式以及记忆增强 LLM 系统中的上下文幻觉。

它把三类检测器整合到一起：表示探测、置信度/不确定性估计、以及 judge 式验证，同时还纳入了生成前的 query answerability 判断，统一在一个界面、配置系统和评测流程中。工具支持 response-level 和 span-level निरी查，便于插件式扩展新检测器；还可以对用户提供的 context-query-answer 三元组做实时分析，输出幻觉分数、未被支撑的片段高亮和不同检测器对比。论文还展示了它在幻觉检测、可回答性判断以及长期记忆系统的 faithfulness gate 中的用途，并已公开代码。