密码学家 Matthew Green:比 agent 越狱更可怕的是黑客级模型与自复制蠕虫
matthew_d_green · x · 2026-10-14
安全研究者 Matthew Green 回应 Zeynep Tufekci 关于 AI 安全的讨论,列出他最担心的两件事:一是能进行专家级黑客攻击的模型落入恶意业余者手中;二是有人搞出可自我复制的 agent 蠕虫。他认为在担忧「agent 越狱失控」之前,这些更现实的风险已经足够棘手。
所属事件:冰箱 IoT 攻击引爆 Green 与 Zeynep 的 AI 安全激辩(8 条相关)→
「安全」频道最新
- Neel Nanda 点评 Gemini 4 Argon:谷歌迄今最详尽安全报告 — NeelNanda5 · 2026-10-14
- Gemini 4 Argon 安全报告成 Google 史上最详尽，篇幅追平 Anthropic — NeelNanda5 · 2026-10-14
- 为不当「欺骗性 AI」案例，模型反成评估感知 AI 论文案例 — tszzl · 2026-10-14
- 网友质疑:间谍为何要自己 DIY 窃听器? — typedfemale · 2026-10-14
- 吴恩达批「灭绝论」：AI 安全论调被用来打压竞争 — JHochderffer · 2026-10-14
- Gemini 4 Argon「评估意识」爆表:思维链里直接喊话 evaluator — JasonBotterill · 2026-10-14