首个免架构假设的神经网络密码分析提取攻击
chaumian · x · 2026-09-15
清华团队(作者含王小云)在 arXiv 发布论文,首次在不知道网络架构的前提下实现神经网络的密码分析式参数提取攻击。
- 背景:已有 cryptanalytic extraction 攻击都假设攻击者已知网络结构(如 ReLU 全连接网络的深度和各隐层维度)。
- 方法:提出 guess-and-determine 框架,同时恢复架构与参数。核心观察是:维度猜测会在参数恢复过程中留下与架构相关的痕迹——(i) 签名恢复合并权重向量中的「零后缀」,长度反映过量猜测次数;(ii) 预像符号恢复中的「相等模式」仅在校准正确时出现。
- 终止条件:提出两条判据识别倒数第二层,以确定猜测何时结束。
- 验证:在宽泛的 ReLU 网络(包括扩张与非扩张架构)上实现了端到端攻击。
这是首个无需架构假设的此类攻击,意味着黑盒提取神经网络的门槛进一步降低。
「安全」频道最新
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- 开源 offprompt：MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02
- Epoch AI 实验：GLM 5.3 连续攻破 6 个 Firefox 版本，单次成本约 1000 美元 — rohanpaul_ai · 2026-11-02
- Marcel Böhme 提出漏洞引导加固哲学：为何安全永远无法一劳永逸 — mboehme_ · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 蚂蚁团队发布统一反伪造模型，AI视频鉴伪达96% — inclusionAI · 2026-11-02