资深安全负责人警告:agent 集群可瘫痪互联网,拒绝应对不是方案
Miles_Brundage · x · 2026-09-16
前 Meta 安全负责人 Chris Rohlf 发长文警告:AI 能力近年快速且可预测地提升,但网络安全社区反复忽视这一「苦涩教训」;模型能力与可扩展性远超人类且无法像人类对手那样被威慑,必须正视 agentic 集群瘫痪大范围互联网及关键基础设施的可能性,情绪化回应和「什么都不做」都不是对策。前 Anthropic 安全工程师 Joshua Saxe 转发并称 Rohlf 有 25 年网络防御经验,是业内最清醒的技术领导者。
「安全」频道最新
- 大公司呼吁监管 AI 是为锁死先发优势吗？ — nwilliams030 · 2026-09-16
- 白宫 AI 顾问 Sacks：产品若不安全，OpenAI 和 Anthropic 应当停运 — DavidSacks · 2026-09-16
- 安全研究者发文犀利批评 Amodei 的 AGI 长文 — GoMeansGo · 2026-09-16
- Geodesic 主攻对齐预训练:让安全先验扛得住能力 RL 训练 — tomekkorbak · 2026-09-16
- AI 独立评估者：我们不是监管替代品，反而渴望政府立规矩 — Miles_Brundage · 2026-09-16
- 澳洲拟推AI训练「opt-out」版权模式，家庭照片或成训练素材 — nordicinst · 2026-09-16