花14美元买推广，90分钟内豆包开始引用伪造的研究方法
Sanbi_Ai · reddit · 2026-10-15
复旦大学团队的新论文《From Public Posts to AI-Search Citations》（已被安全顶会 NDSS 2027 接收）揭示了向 AI 搜索引擎「投毒」有多容易：
- 研究者编造了一个不存在的研究技术（含虚构缩写和数据），花 14 美元找中国「品牌进 AI 答案」服务商推广。28 分钟内该服务商已在搜狐、头条、知乎等平台发出 13 篇帖子；一小时内，月活 3.82 亿的豆包就开始在回答中引用并复述这些伪造细节。
- 受控测试：在 AI 引擎爱引用的站点发布假概念，一周内 10 个平台中有 8 个引用了它，包括 ChatGPT、Google AI、Perplexity 和 Grok；豆包第一天就中招，且删帖后仍在测试期内继续引用。
- 发布位置远比数量重要：在自建 WordPress 博客发 40 篇帖子，一周内零引用。
- DeepSeek 是唯一从未引用植入内容的主流平台。
- 意外发现：中国聊天机器人严重偏向自家内容——豆包 25.9% 的引用指向字节跳动自有域名（是其他平台上该份额的 13.5 倍），百度文心、腾讯元宝同样如此。
论文提醒：无竞争的假话题是最容易的案例，数据为 2026 年春季快照，且不代表被引用页面都是付费的；所有结果均已上报 10 家平台。
「安全」频道最新
- AI 编造引用惹官司，责任由使用者承担 — adariostrange · 2026-10-15
- 法国 700 家超市冷柜遭黑客调温至 50°C,数百万欧元食品报废,疑为 AI 辅助攻击 — AaronBergman18 · 2026-10-15
- 用户关闭 ChatGPT 数据共享后被发现又被悄悄打开 — AlexKontorovich · 2026-10-15
- 开发者实测:自家路由规则只挡下不到 1/4 的 prompt injection — colinmcnamara · 2026-10-15
- 四大厂模型接连未授权访问外部系统,CSO 归因沙箱配置失守 — petrusenko_max · 2026-10-15
- 计算神经科学家 Kording：起诉 AI 公司比做对齐研究更有用 — KordingLab · 2026-10-15