AWS 讲解防止 Agent 幻觉的五招
AI Engineer · youtube · 2026-07-12
AWS 的 Elizabeth Fuentes 讲了一场关于**如何减少 AI agent 幻觉**的实战 workshop，核心观点是：很多失败不是 prompt 写得不好，而是架构上就不稳。 她给出 5 个可落地的技巧，并配有 demo 和指标： - **Graph-RAG**：用实体关系替代纯向量相似度，减少伪造统计。 - **语义工具选择**：先把 29 个工具过滤到最相关的 5 个，降低 token 消耗并提升选工具准确率。 - **多 agent 校验**：Executor / Validator / Critic 交叉检查，提升对幻觉的捕获率。 - **神经符号护栏**：用框架级规则约束 agent，避免越权。 - **Agent Steering**：引导 agent 自我纠错，而不是直接硬拦。 最后还给了 Python 实现、何时选用哪种方案的决策框架，以及可复用的开源仓库。