新论文揭示：float32 精度可阻断神经网络参数提取攻击
chaumian · x · 2026-09-14
西安电子科技大学与南洋理工大学研究者在 IACR 发表论文《Finite-Precision Error Analysis of Cryptanalytic Model Extraction》，研究在有限精度下针对神经网络的密码分析式参数提取攻击。要点：
- 已有研究表明黑盒访问可恢复神经网络参数，但评估多假设 float64 高精度目标模型，与实际部署的 float32 或更低精度不匹配。
- 论文将恢复流程拆解为临界点定位、有限差分估计、扰动线性方程组求解等数值子问题，分析误差如何产生、传播和放大，并与网络局部线性区域几何、参数-梯度敏感度等内在性质关联。
- 关键结论：目标模型以 float32 评估时，高精度下游计算无法消除 oracle 引入的扰动，局部误差下限显著高于 float64；网络越大恢复越不稳定。
- 讨论了该视角对 hard-label 恢复与分段仿射组件的扩展，平滑激活网络需额外的曲率感知误差建模。
「安全」频道最新
- viemccoy：对齐可解但无实验室给出可信的未来愿景 — brianryhuang · 2026-09-14
- Hacker Opus 之后多层模拟评测或已失效，研究者劝评估者慎用 — herbiebradley · 2026-09-14
- 中方称放缓前沿 AI 是「冷战」策略，安全争议走向地缘化 — TansuYegen · 2026-09-14
- 网友警告:EA 势力若成常驻第三方审计,安全委员会权力将失控 — beffjezos · 2026-09-14
- 用户收到泄露警报:AI 音乐平台 Suno 疑发生数据库泄露从未公告 — ChrisUniverse · 2026-09-14
- Szepesvári 谈 AI 安全评估：先把老式安全实践做扎实 — CsabaSzepesvari · 2026-09-14