EU AI Office 发布前沿模型独立评估要求,采纳 AEF-1 标准
Miles_Brundage · x · 2026-10-22
EU AI Office 公布了对前沿 AI 模型进行合格独立评估的要求。在与其他投标人(@aievalforum)的双边沟通中,AI Office 明确:GPAI Code of Practice 措施 3.2/3.5 所涉外部评估师的独立性应通过合同保障落实,且至少包含 AI Evaluator Forum 自愿标准 AEF-1 第 4 部分第 3 节(分析自主性)与第 4 节(透明方法与结果)的全部要求和建议。
AEF-1 是第三方评估的最低运行条件标准,涵盖独立性、访问权限与透明度五大原则,评估方需随结果发布核查清单;实践案例包括 Transluce 对 77 个模型变体心理健康响应的独立评估、METR 对 Anthropic/Google/Meta 等内部部署 agent 的对齐风险评估。
「安全」频道最新
- Cloudflare 推出全事务检测 WAF,免费为所有客户默认防 php2shell — irvinebroque · 2026-10-22
- Wiblin 呼吁 AI 实验室员工:立即重新评估你的项目是否在加速 RSI — geoffreyirving · 2026-10-22
- Reddit长文反驳末日论:递归安全改进或能解决AI安全 — yfreon · 2026-10-22
- 「计算机安全过剩」:无限免费 token 将挖出数十万漏洞 — Afinetheorem · 2026-10-22
- 安全研究者 tenobrus:连顶级实验室都防不住自家模型攻击,AI 网络攻防不容乐观 — AaronBergman18 · 2026-10-22
- eMudhra 证书仪式缺陷生成弱密钥,据称被 AI 工具逆向破解 — basedjensen · 2026-10-22