MLCommons 推出 Candela:把 AI 安全基准做成按需评测服务
TheKanter · x · 2026-10-30
MLCommons(拥有 Microsoft、Google、NVIDIA、OpenAI、Anthropic 等 125+ 成员)发布 Candela,一项面向 AI 风险与可靠性的「基准即服务」。
- 核心问题:模型行为随每次配置变化,业界缺乏统一可信的安全测试方式
- 提供 AILuminate 基准的按需运行:可测「模型发布态」或「系统部署态」,支持频繁练习测试,再用独立提示集产出可版本化、可跨时间对比的官方分数与百分位
- 随发布推出两个新版本:Safety 1.2.1 覆盖暴力犯罪到金融/健康/法律专业建议等 12 类危害;Jailbreak 1.1 用其越狱分类法测试其中 11 类
定位是把 AI 风险变成可测量、可管理的「正常风险」——如同保险业的前提:可测即可管。
「安全」频道最新
- 美众院民主党人推决议:反对动用纳税人资金救助 AI 公司 — michalmalewicz · 2026-10-30
- 安全研究员自嘲翻车：声称公共 WiFi 安全，随即遭证书厂商打脸 — matthew_d_green · 2026-10-30
- 传印度金融 KYC 数据大规模泄露，CERT-In 演习表态遭讽刺 — kingslyj · 2026-10-30
- 架空 1865：蒸汽 AI 代理降临，英国议会立《红领带法案》限速 — azmackay · 2026-10-30
- 加拿大政府宣布入股 Cohere，推进主权 AI 战略 — cohere · 2026-10-30
- 关键州民调：七成选民支持 AI 安全监管，即使损害美国竞争力 — Miles_Brundage · 2026-10-30