Claudini：AI 自动研究破解 LLM，越狱成功率远超现有方法
maksym_andr · x · 2026-10-21
论文《Claudini: Autoresearch Discovers State-of-the-Art Adversarial Attack Algorithms for LLMs》展示 AI agent 能自主发现新型 LLM 对抗攻击算法。要点：
- 方法：将 Claude Code、Codex 等前沿 agent 放入自动研究循环，提供 30+ 已有攻击方法库与固定算力预算的评测脚本，迭代进化攻击算法。
- 结果：对 OpenAI GPT-OSS-Safeguard-20B 的 CBRN 类越狱查询，agent 发现的方法最高达 80% 攻击成功率（现有方法 <50%）；对对抗鲁棒模型 Meta-SecAlign-70B 的提示注入达 100% ASR（此前最佳自动方法仅 82%）。
- 泛化性：攻击方法在无关代理模型上、以纯随机目标 token 强制任务开发，却能直接迁移到对抗训练模型的提示注入。
- 分析：论文追溯了自动研究中方法的演化谱系，刻画 agent 的策略与失败模式，指出「防御必须针对定制攻击评估」这一对抗 ML 原则可被自动化。
转发上下文中，研究者 Usman Anwar 列举了 Maksym Andriushchenko（Tübingen）、Sahar Abdelnabi、Florian Trämer（ETH Zurich）、David Bau（Northeastern）等欧洲与美国团队的相关安全研究，回应「AI 安全研究不止 Berkeley+Oxford+Tübingen」的说法。
「安全」频道最新
- 离谱安全事故:某中间 CA 私钥竟是数字 4 — evilsocket · 2026-10-21
- 自写文章被标 AI、AI 文反判人类，实测揭露检测器不可靠 — CommonExplanation711 · 2026-10-21
- 企业 AI 安全栈怎么搭？agent 调用生产 API 的监控难题 — Medical-Analyst2671 · 2026-10-21
- 写虐待回忆录遭 ChatGPT 以「儿童性化」封号,安全误伤引争议 — throwRAthe1 · 2026-10-21
- Aleksander Madry 重返 OpenAI，与 Merytm 共掌超智能安全 — sama · 2026-10-21
- Scott Alexander 辩「AI 接管论」：人类利益可由 AI 执政来服务 — Astral Codex Ten · 2026-10-21