Anthropic 公开自动红队系统 Anvil

Anthropic 在 Safeguards 博客公开其自动化红队系统 Anvil,用于提前发现针对安全护栏的强越狱攻击。在生物武器、网络安全、蒸馏等领域的测试中,Anvil 寻找越狱样本的速度和能力均超过全部人类红队,比人类赏金更快更狠,可帮助团队尽早测试并改进安全护栏。

2026-11-13 ~ 2026-11-13 · 2 条相关

• Anthropic 公开自动红队系统 Anvil:找越狱比人类赏金更快更狠 — javirandor · 2026-11-13

另有 1 条近重复转述:javirandor