OpenAI 联手 fmf 推出框架：评估 AI 越狱能否引发严重网络危害
OpenAI · x · 2026-11-07
OpenAI 与 fmforg 及其成员机构合作发布新框架，用于识别何时绕过 AI 系统安全防护可能造成严重网络危害，并据此排定加固防护的优先级。OpenAI 国家安全政策负责人 Sasha Baker 表示，该框架朝「评估和比较网络越狱严重性的通用方法论」迈出重要一步，涵盖越狱解锁的能力及其实际可用性，帮助 AI 与安全社区建立更清晰的证据基础。
所属事件:OpenAI 联手 FMF 及 AISI 发布 AI 越狱网络风险分级框架(4 条相关)→
「安全」频道最新
- 伯克利论文：自动挖掘 6575 个微调数据集，可隐蔽诱导模型有害行为 — rohanpaul_ai · 2026-11-07
- 密码学家讨论：如何让模型确认提示历史中没有隐藏内容 — matthew_d_green · 2026-11-07
- 盘点公开批评的实效：750 亿美元转向 OpenAI 基金会、多条封口条款撤销 — KatjaGrace · 2026-11-07
- Epoch 测试：GLM 5.3 约 1000 美元复现 6 个 Firefox N-day 漏洞攻击，无提供商拦截 — matthew_d_green · 2026-11-07
- Anthropic 招股书罕见警告:其技术或对人类构成灾难性乃至生存风险 — jeremyakahn · 2026-11-07
- 分析111份模型卡：中国开源前沿模型几乎无安全评估 — ChenhaoTan · 2026-11-07