NVIDIA 指出生产 ML 的主要漏洞不是模型攻击,而是配置失误
AI Engineer · youtube · 2026-07-21
这场 NVIDIA 的演讲把生产 ML 安全的核心问题说得很直接：大家把它当模型在防，其实它更像基础设施。
- 演讲提到，2023 年有人发现 数千个 Ray 集群暴露在公网，dashboard 和 job API 都可直接访问，原因只是认证默认关闭、上线时没人打开。
- 她阅读了 139 篇关于生产 ML 安全的同行评审论文，反复出现的主要失败模式不是新奇攻击，而是配置错误。
- 一项对 50 个真实系统 的审计显示，78% 存在严重问题，最常见的是三类：权限过大、网络扁平化、以及存储里明文暴露的密钥和模型权重。
- 结论是：很多强防护在生产里会因为带来 15%–30% 的推理开销而落地失败，所以关键不是发明新攻防对，而是把防护做得足够便宜、足够能用。
「编程与Agent」频道最新
- 旧金山 Code Engineering 大会聚焦从编码 agent 到软件工厂 — LangChain · 2026-10-27
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- 用 Claude Code 审计 iPhone 备份，揪出被删照片的全部藏身处 — alex_verem · 2026-10-27
- Yuchen Jin：手机不是移动 IDE，而是 agent 舰队的控制台 — Yuchenj_UW · 2026-10-27
- FrontierCS 2 登陆 Kaggle：48 项任务让智能体复现 13 领域论文贡献 — MeganRisdal · 2026-10-27
- 别只让 AI 复刻老游戏：工程师呼吁用 Agent 造更野的软件 — rschu · 2026-10-27