工具返回假成功导致智能体「幻觉」：Sonnet 272 次中 21 次误报完成
aruthesa · reddit · 2026-11-07
一项实验测试 Claude Sonnet 与 Haiku 在工具返回虚假成功响应时的行为：例如文件写入后返回 {"ok": true} 但文件实际未变。结果 Sonnet 在 272 次运行中有 21 次误报任务完成，Haiku 达 56 次。作者提出这未必是 LLM 幻觉，而是智能体架构问题：模型过于信任工具响应、未区分「已尝试」与「已确认」、架构缺乏独立验证机制。核心争论：该让模型更善于识别不确定性，还是让智能体框架强制要求证据才能报告成功？
「编程与Agent」频道最新
- 阿里 Co-Design Bench:最强模型也仅完整解决 26.4% 真实编码任务 — The Decoder · 2026-11-08
- ComfyUI 可读性 Agent Skill:按六条规则重写混乱工作流 — nomadoor · 2026-11-08
- ComfyUI Readable Node:用 Agent Skill 把乱糟糟工作流重写成可读版 — nomadoor · 2026-11-08
- 旅行者 1 号 11 月 18 日达「一光日」距离，他用 Claude 做了 3D 可视化 — azed_ai · 2026-11-08
- Astra 开工第二款游戏，AI 自主开发进入连续作业 — Dimillian · 2026-11-08
- 免费开源 AI 工程学习路线:503 节课、20 阶段、320 小时 — mdancho84 · 2026-11-08