首例专有模型双盲评估：Gemini 2.5 安全飞地实测
iamtrask · x · 2026-08-27
AVERI 联合 Google DeepMind、OpenMined 和 MLCommons 宣布完成历史性里程碑：首次对专有语言模型（Gemini 2.5 Flash-Lite）进行双盲安全评估。
核心内容：
- 测试环境：在安全飞地内进行，这是一种硬件隔离技术，保护敏感计算数据，解决了开发者与评估者之间资产保护的信任难题。
- 测试数据：使用了 MLCommons 安全基准家族 AILuminate 中从未公开过的提示词。
- 参与方：各机构分工协作，共同实现了强隐私保证下的独立评估。
所属事件:DeepMind 联手多方完成首个闭源前沿模型双盲评估(19 条相关)→
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16