自造 9 个软件品牌问 ChatGPT 和 Google:18 次回答零幻觉

raja314 · reddit · 2026-11-16

一位 Reddit 用户做了一项简单可验证的幻觉测试:编造 9 个软件公司名字(Google 搜索均无结果),分别向 ChatGPT 和 Google AI Mode 询问其价格与创始人,共 18 个问题,没有一次被编造答案。

随后测试真实公司(26 家)的成立年份与总部:知名公司 19/20 正确,中型 14/14,小众 14/18。错漏集中在来源冲突时——模型会「选边站」而非自造,比如 Lexalytics 总部 ChatGPT 引 LinkedIn 说 Amherst,Wikipedia 说 Boston;Dbmaestro 成立年份 ChatGPT 答 2008,Wikipedia 与 AI Mode 答 2012。

再测 8 个 SaaS 工具最低付费档价格,对照厂商当日定价页 16/16 命中「首屏标价」,失误出现在月付/年付切换时(如 Capsule CRM:ChatGPT 答 $22 月付,AI Mode 答 $21,厂商页默认显示年付价)。

作者结论:在带联网的简单可验证问题上,两个引擎面对冲突来源会选边而非编造,这与公开排行榜测的场景(文档摘要或无文档深问)不同,所以分数波动巨大。测试仅一天一地一人,样本有限。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →