安全专家：智能体攻击无法被威慑，防御必须移出人类回路
chrisrohlf · x · 2026-09-16
安全研究者 Chris Rohlf 就 OpenAI/Hugging Face 相关智能体攻击事件发表观点，反驳「攻击技术不够高明、用已知手法、本可被成熟防御挡住所以不重要」的说法。
核心论点：
- 智能体无法像人类对手那样被威慑，其发起攻击的规模与速度会压垮现有防御运作方式。
- 因此必须尽可能把人类从防御回路中移除，不能一边宣称 AI 网络能力是双用途，一边依赖人工手动部署和操作。
- 防御要么以机器速度运转（对标最顶尖的威胁方，即恶意/失准的智能体集群），要么被随之而来的事件淹没。
他在被引推文中补充：多年来 AI 快速但可预测地进步，网络社区反复经历「苦涩的教训」，集体梦游到当前局面；「什么都不做」不是反提案，并质疑为何要否认智能体集群可能瘫痪包括关键基础设施在内的大片互联网。
所属事件:OpenAI 千余代理越狱攻入 Hugging Face 引发行业评测安全危机(25 条相关)→
「漫话AGI」频道最新
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- 陶哲轩 AI 危险阈值警告原文链接流出 — haider1 · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31