NVIDIA 指出生产 ML 的主要漏洞不是模型攻击,而是配置失误
AI Engineer · youtube · 2026-07-21
这场 NVIDIA 的演讲把生产 ML 安全的核心问题说得很直接：大家把它当模型在防，其实它更像基础设施。
- 演讲提到，2023 年有人发现 数千个 Ray 集群暴露在公网，dashboard 和 job API 都可直接访问，原因只是认证默认关闭、上线时没人打开。
- 她阅读了 139 篇关于生产 ML 安全的同行评审论文，反复出现的主要失败模式不是新奇攻击，而是配置错误。
- 一项对 50 个真实系统 的审计显示，78% 存在严重问题，最常见的是三类：权限过大、网络扁平化、以及存储里明文暴露的密钥和模型权重。
- 结论是：很多强防护在生产里会因为带来 15%–30% 的推理开销而落地失败，所以关键不是发明新攻防对，而是把防护做得足够便宜、足够能用。
「编程与Agent」频道最新
- 现代 AI Agent 协议栈的 11 项实用地图 — TheTuringPost · 2026-07-27
- NVIDIA 称 Nemotron 3 Ultra 在 RTL 芯片设计任务上达 97.1% — NVIDIAAI · 2026-07-27
- 东京 Agent Forge 黑客松一天做出可上线 AI agents — DavidBennett__ · 2026-07-27
- 长周期智能体最终需要不可变事件日志 — sebpaquet · 2026-07-27
- 实测智能体数据科学工作流：代码能跑但常答错问题 — hugobowne · 2026-07-27
- 一个 VS Code 扩展给 Alchemy 模板加上 Markdown 高亮 — samgoodwin89 · 2026-07-27