安全研究者:Agent 攻击无法靠威慑防御,需把人移出防御回路
chrisrohlf · x · 2026-09-18
Chris Rohlf 转发并引用其 2024 年长文《AI Replication: Work and Exploitation》,指出针对近期的 OpenAI/Hugging Face 事件:即使攻击技术上不复杂、用的是已知手法、本可用成熟防御解决,也不构成轻视它的理由。核心论点:
- Agent 无法像人类那样被「威慑」,其发起攻击的规模与速度会压垮现有的防御体系
- 因此防御必须尽可能把人移出回路,以机器速度对抗机器速度,否则将被恶意/失准的 Agent 集群淹没
- 原文从计算机科学基础与经济约束分析 Agent 自主复制所需资源(算力、存储、资金),认为其可通过网络犯罪、正当工作或漏洞利用获取
作者为知名安全研究者(前 Meta),文章仍适用于当前 Agent 生态。
「漫话AGI」频道最新
- Yacine：90年代128MB内存照样做银行系统，算力少反而是差异化优势 — yacineMTB · 2026-09-18
- Yacine：90 年代 128MB 内存也能写出银行系统，算力不足不是借口 — yacineMTB · 2026-09-18
- 工程师主动降级换 AI 岗:不愿落后于 Agent 时代的职场逃离 — thedealdirector · 2026-09-18
- AI 研究者称两年内效率提升10倍,经济学家仍预测增速仅4-5% — soumitrashukla9 · 2026-09-18
- 「Cope 贩子」：AI 起飞时代靠抚平认知失调获利的新生意 — jankulveit · 2026-09-18
- 「AI 杀死 SaaS」论遭反讽：用户照样买 CRM — jacob_posel · 2026-09-18