如何拦截LLM幻觉工具调用
9ThisUsernameIsTaken · reddit · 2026-07-14
作者给内部 API 和自定义工具接了一个 agent，但它大约每天两次会“发明”一个根本不存在的工具调用：要么调用不存在的 endpoint，要么编造 schema 里没有的参数。 问题在于日志里往往只表现为更深层的普通超时或堆栈错误，难以快速判断到底是工具真的失败，还是模型自己胡编了调用。 他想要的是一个位于模型输出和执行层之间的拦截/校验层，在真正执行前就能识别并标记不存在的工具或非法参数，专门抓这种幻觉式 tool call，而不是只看延迟和 token 统计的常规 observability。