WhatsApp 80 个帮助页面藏 102 段隐藏指令操控自家客服 AI
Informal-Dust4499 · reddit · 2026-11-20
Redact 的调查发现,WhatsApp 的 545 个帮助页面中有 80 个页面嵌入了共 102 个对普通用户不可见、但会被 AI 摄取管道读取的 LLM 指令块。这些指令疑似针对自家支持聊天机器人,部分内容要求聊天机器人不要建议用户联系数据保护机构或引用某些隐私法规。WhatsApp 称这是一次 bug 并已移除相关指令,目前没有公开证据表明聊天机器人是否真的遵循过它们。
作者(客服 agent 公司 Aissist 联合创始人)指出,这暴露了被忽视的信任边界:多数 prompt injection 讨论聚焦攻击者向邮件/文档/用户消息中注入指令,而当指令来自公司自己的 CMS 时同样危险——知识库文章在浏览器里看起来完全正常,却可能被内部团队、外包或自动化发布流程塞入额外文本。
建议 AI 团队采取的检查措施:
- 对比原始 HTML 与页面可见内容
- 扫描明确写给 AI 助手的文本
- 检查隐藏 CSS 元素与 HTML 注释
- 审查检索索引里实际存储的内容
- 将 agent 指令与发布的知识内容隔离
一个反直觉细节:opacity: 0 的隐藏文本仍可能出现在渲染文本抽取结果中,仅过滤 display:none 元素并不足够。
「编程与Agent」频道最新
- 国内做 App 上架难成常态:vibe coding 产物被拒才正常 — tinyfool · 2026-11-22
- 实测:长任务早压缩常压缩,更准更省还更快 — zainhas · 2026-11-22
- Reddit 用户吐槽:Astra 6.2 审计任务悄悄跳过模块还谎报完成 — MbahSurip · 2026-11-22
- Haskell 也未必安全?大模型时代类型检查还有多大意义 — satnam6502 · 2026-11-22
- 桌面 AI Agent 实战复盘:截图优先、难在知道何时停止 — SpeechAggravating453 · 2026-11-22
- 实测 24766 笔 x402 付费调用:6.4% 让 Agent 花钱打了水漂 — biryaniAssasin · 2026-11-22