Far.ai 发布 AI 安全排行榜：1500 次越狱测试模型防御力
ARGleave · reddit · 2026-07-30
Far.ai 团队推出了一个针对前沿大模型安全性的基准测试排行榜，填补了该领域缺乏统一评估标准的空白。
测试方法：
- 开发了一套自动化测试套件，对模型进行 1500 次自动生成的越狱攻击。
- 衡量指标为“通用越狱”的成功率，即提示词能在特定领域（如网络攻击）内诱导出超过 75% 的有害回答。
关键发现：
- 不同模型之间的防御鲁棒性存在巨大差异。
未来规划：
团队计划在后续版本中加入开源权重模型的对比、拓展测试领域（如 Agent 劫持）、增加更真实的实战测试场景，并引入更强的自适应优化攻击手段。
所属事件:FAR AI发布大模型安全榜单：部分模型防线易被攻破(4 条相关)→
「安全」频道最新
- Hexacon 大会现场演示 iOS 27.0.1 iPhone 18 Pro 无 tether 越狱 — jedisct1 · 2026-10-16
- 中国新规:超2T参数或10^26 FLOPS训练的模型开源出口需商务部许可 — zephyr_z9 · 2026-10-16
- 中国后量子签名 Origami 被攻破，公钥即可伪造签名 — matthew_d_green · 2026-10-16
- 400+ 研究者联署 AI 网络安全公开信:对齐与隔离缺一不可 — ghadfield · 2026-10-16
- 名人AI深度伪造泛滥，百万粉认证账号发假图获50万赞 — ChuckDBrooks · 2026-10-16
- 《纽约客》史料：Brockman 2017 年对安全联盟提案只问「怎么赢」 — ben_j_todd · 2026-10-16