NYU 研究：罕见 AI 失效可逃过安全测试,样本需求减少 10-20 倍
thegautamkamath · x · 2026-10-28
NYU 数据科学中心博士后 Rico Angell 及同事发表研究，指出罕见的 AI 失效模式能够逃过常规安全测试。
该工作提出一种估计这类罕见失效发生概率的方法，在测试场景中把所需样本量减少了 10 到 20 倍，对 AI 安全评估方法有实际意义。
「安全」频道最新
- 不到 20 行提示词让 Grok Bot 突破拒绝，绕过版权拦截去搜资源 — huangyun_122 · 2026-10-29
- 当 AI 一边回应一边悄悄改道:辅助何时变成思想管控 — VoidStateKate · 2026-10-29
- 公共知识组织倡议重建互联网新契约,应对 AI 时代公地封闭 — nordicinst · 2026-10-29
- 报告：美国在建 AI 数据中心配套燃气电厂达 177GW，八成靠天然气 — AINowInstitute · 2026-10-29
- Gemini 4 Carbon 安全能力大跳变:可全流程挖掘漏洞到修补代码 — haider1 · 2026-10-29
- 经济学家 Josh Gans 发文:用经济学框架审视 AI 训练版权授权问题 — joshgans · 2026-10-29