AI智能体数据投毒成功率近五成
Dr_Atoosa · x · 2026-07-14
这条线程总结了一项针对 AI agent 栈 的安全实验：研究者测试了 3 种 agent stack、5 个社会敏感话题，共做了 450 次受控实验。
结果显示：
- 数据投毒成功率 达到 49.56%
- 只有 6.0% 被检测到
- 攻击方式是 indirect data poisoning：攻击者先污染公开数据集，再以带有误导元数据的方式重新上传
作者强调，越来越多的 AI 研究/检索型 agent 会自动抓取并处理数据，若缺少人工审查，用户可能在不知情下把被污染数据继续放大传播。
所属事件:AI科研代理面临数据投毒风险，实验显示近半数成功率(7 条相关)→
「编程与Agent」频道最新
- 团队级 AI Agent 落地难题：共享上下文和任务协调放哪里？ — Al_Grigor · 2026-09-11
- 为会动钱的自主 Agent 加信任层:违约限即无法签名 — Arpitbuilds · 2026-09-11
- MCP 链式调用无回滚：agent 工程的真实痛点 — agentrsdg · 2026-09-11
- DeepMind 等论文：设计文档当真相源，代码改为可抛弃产物 — Roger_M_Taylor · 2026-09-11
- 用 Agent 造小分类器：19 万文档标注成本仅 0.7 美元 — vanstriendaniel · 2026-09-11
- MathModelAgent 走红:自动完成数学建模并生成可提交论文 — jihe520 · 2026-09-11