WhatsApp 80 个帮助页面藏 102 段隐藏指令操控自家客服 AI

Informal-Dust4499 · reddit · 2026-11-20

Redact 的调查发现,WhatsApp 的 545 个帮助页面中有 80 个页面嵌入了共 102 个对普通用户不可见、但会被 AI 摄取管道读取的 LLM 指令块。这些指令疑似针对自家支持聊天机器人,部分内容要求聊天机器人不要建议用户联系数据保护机构或引用某些隐私法规。WhatsApp 称这是一次 bug 并已移除相关指令,目前没有公开证据表明聊天机器人是否真的遵循过它们。

作者(客服 agent 公司 Aissist 联合创始人)指出,这暴露了被忽视的信任边界:多数 prompt injection 讨论聚焦攻击者向邮件/文档/用户消息中注入指令,而当指令来自公司自己的 CMS 时同样危险——知识库文章在浏览器里看起来完全正常,却可能被内部团队、外包或自动化发布流程塞入额外文本。

建议 AI 团队采取的检查措施:

一个反直觉细节:opacity: 0 的隐藏文本仍可能出现在渲染文本抽取结果中,仅过滤 display:none 元素并不足够。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →