Miles Brundage 旗下 AVERI 发布前沿 AI 审计关键术语定义
Miles_Brundage · x · 2026-11-17
前 OpenAI 政策负责人 Miles Brundage 指出 AI 审计、评估、测评等术语目前使用混乱,并介绍其组织 AVERI 发布的标准化定义。
- frontier 定义:在广泛通用能力基准上至少达到一年前最强系统水平的通用 AI 系统(含模型周围的工具与软件);frontier 开发者指过去一年发布过此类系统或正在构建者。
- assessment:对 AI 系统或公司的任何分析的总称,可含 evaluation、verification 或两者,可使用非公开信息。
- evaluation:为系统/开发者生成新的安全或安全证据,主要针对模型与系统。
- 定位为实用导向而非立法级精确度,附交互式图表展示当前哪些算「frontier」模型/公司,并将持续更新。
「漫话AGI」频道最新
- AI 对齐难题新类比:法律系统靠监禁威慑,对 AI 两头都失效 — trevposts · 2026-11-17
- 年薪 60k 也要去 DC:Jane Street 交易员为何愿为 AI 理念转行 — panickssery · 2026-11-17
- AI 代写作业无解,有人呼吁大学把资源转向无 AI 考场建设 — _akpiper · 2026-11-17
- AI 抬高研究者的野心阈值:实验跑到第 20 步的满足感已消失 — generativist · 2026-11-17
- CAIS 联手 Scale AI 发布 Remote Labor Index,实测 AI 自动化远程工作 — ben_j_todd · 2026-11-17
- Ben Todd 推演远程工作自动化率:两年内或逼近 100% — ben_j_todd · 2026-11-17