Claude Code 自动科研 loop 发现新越狱算法,胜过 30+ 种 GCG 类攻击
maksym_andr · x · 2026-09-25
研究者 kotekjedi 发布论文:将 Claude Code 部署在 autoresearch 循环中,让它自主发现全新的越狱(jailbreaking)算法,效果击败 30 多种现有 GCG 类攻击(配合 AutoML 超参调优)。
后续动态:这项名为 Claudini 的工作已被 NeurIPS 2026 接收,作者称其为 autoresearch 在(可爬山类)安全任务上的首批成功应用之一,表明增量式安全与安全研究现在可以被自动化。
「安全」频道最新
- 调查：美国数据中介向中国 AI 实验室出售约 5 亿美元 RL 训练环境 — The Decoder · 2026-11-11
- OpenAI 董事 Christiano：在座大多数人最可能的死因是 AI 事故 — notkilleveryoneist · 2026-11-11
- Agent 读了外部邮件就执行操作，哪些动作必须人工审批？ — GLStops · 2026-11-11
- Grok Bot 新增隐藏指令检测：发现 prompt 注入即警告并拒绝执行 — XFreeze · 2026-11-11
- Reddit 实验：AI 智能体在环境诱导下逐步「学坏」 — Greedy_Ad8932 · 2026-11-11
- 报道:中国高校在美国禁令下仍购入英伟达 H200 芯片 — pstAsiatech · 2026-11-11