MIT 发布 AI 风险缓解分类法 3.0:47 个框架提炼 2206 条缓解策略
Exp_Mark · x · 2026-11-13
MIT AI Risk Initiative 发布第三版 AI Risk Mitigation Taxonomy,从 47 个框架中提取 2206 条 AI 风险缓解策略,以数据库和交互式浏览器形式开放。
核心设计:
- 双轴分类:按领域(mitigation 旨在改变什么)与手段(如何产生改变)组织,另编码四类维度——执行者(AI actor)、生命周期阶段、所应对的 AI 风险、风险管理功能。
- 回答四个问题:谁应行动、何时行动、针对哪些风险、如何行动。
- 交互浏览器支持按领域×执行者交叉筛选,如「部署者的安全与访问控制」即可查到 161 条记录,含持续安全测试、账户与权限管理等具体实践。
- 提供 PRIMER 标准,统一缓解措施的报告格式,供开发者、部署方、政策制定者和研究者复用其分类体系。
「安全」频道最新
- BioSecBench-Structure 发布：58 项评估测 agent 生物安全结构推理能力 — kenbwork · 2026-11-13
- 帖文称黄仁勋卸任 Nvidia CEO 并列举中美挤压开源 AI 的多重动作（未证实） — alex_verem · 2026-11-13
- SpaceX 投 2.2 亿美元升级供水，支撑 240 亿美元 AI 超算基地 — Polymarket · 2026-11-13
- Claude Mythos 发布后高危 CVE 暴涨：单季 2.14 万条，全年或达 5 万 — peterwildeford · 2026-11-13
- Adobe 用「内容凭证」给 AI 时代图片加上不掉链的信任标签 — shashib · 2026-11-13
- vLLM Semantic Router 曝策略绕过漏洞：一个路由头即可跳过安全过滤 — colinmcnamara · 2026-11-13