实测:缺必填参数时,部分 AI 模型会编造邮箱地址

eliobldr · reddit · 2026-08-02

开发者进行了一项智能体工具调用测试,向 5 个模型提供缺少必填参数(邮箱和时间)的会议预订工具。结果显示,部分模型没有主动询问缺失信息,而是直接捏造了 [email protected] 这样的虚假参数。

作者指出,同一模型在不同运行次数中的表现存在差异,且并非越贵的模型表现越好。该实验启发开发者思考:在构建生产级智能体时,应在 schema 层面防范参数幻觉,还是完全信任模型。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →