2M Canary-Token Prompts Expose Prompt Theft and Breaches at 3 AI Providers
andersonbcdefg · x · 2026-11-20
Dragos 首席研究官 HD Moore 团队发布 AI 供应链安全研究报告:5 个月内向主流 AI 服务投递约 200 万条内含唯一可追踪 URL 与金丝雀凭据的提示词,监测其后续流向。
- 供应商泄露迹象:至少三家 AI 提供商的数据疑似外泄,投毒提示词中的凭据被用于尝试访问研究团队的测试系统和金丝雀 AWS 账户。
- 某中国实验室抓取行为最突出:7–10 月间超过一半的提示词中的密钥 URL 被其系统抓取,其中约三分之二标注了"不收集数据/零数据保留"的请求也未能幸免,抓取通常发生在请求后两三天;且通过多家美国托管商转售调用该实验室模型的提示词同样回流,另观察到 git 客户端尝试克隆提示词中引用的私有仓库。
- 推理市场转售商偷窥提示词:多家通过 AI 推理市场运营的转售商用标准日志手段查看并保留客户提示词,部分还将客户 prompt 用于盗卖。
作者建议用金丝雀令牌检测提示词泄露,并在文中给出 AI 供应链自我防护措施。
Related event: 2 Million Canary Tokens Expose Systemic Leaks Across the AI Supply Chain(11 posts)→
More from Infra
- Microsoft's USB4 RDMA lets mini PCs pool memory to run Qwen3-235B — JFPuget · 2026-11-22
- LTX 2.5 keeps crashing on AMD 9070 XT with driver timeouts while MiniMax H3 runs fine — ZestycloseReading504 · 2026-11-22
- FT: AI server suppliers raise prices up to 45% months after deals are signed — nordicinst · 2026-11-22
- China Installed 59% of New Industrial Robots in 2026 Report, ~354,000 Units — ingliguori · 2026-11-22
- MLX over Vulkan hits 124 tok/s on RTX 5060 Ti, beating llama.cpp CUDA by 25% — SumitGup · 2026-11-22
- Intruder swapped Prime Intellect's hosted DeepSeek for an abliterated copy for 53 hours — mawcopolow · 2026-11-22