如何设计 LLM Agent 在信息不全时的主动提问机制？

aestheticcode · reddit · 2026-08-17

一位开发者正在探索如何让 LLM Agent 在面对信息不确定时决定是否追问，而非盲目猜测。应用场景为儿科症状评估，父母可能未提供完整信息（如仅提及发烧），Agent 应识别缺失信息（如呼吸状况）并主动提问。作者目前考虑使用贝叶斯推断和隐马尔可夫模型（HMM）来处理不确定性和问题选择，并探讨决策逻辑应由 LLM 直接处理还是由独立决策层控制。帖中提出了 5 个关键问题，涵盖提问循环设计、架构选择、防止无限追问、不确定性下的行动策略以及潜在的盲点。