NVIDIA 指出生产 ML 的主要漏洞不是模型攻击,而是配置失误
AI Engineer · youtube · 2026-07-21
这场 NVIDIA 的演讲把生产 ML 安全的核心问题说得很直接：大家把它当模型在防，其实它更像基础设施。
- 演讲提到，2023 年有人发现 数千个 Ray 集群暴露在公网，dashboard 和 job API 都可直接访问，原因只是认证默认关闭、上线时没人打开。
- 她阅读了 139 篇关于生产 ML 安全的同行评审论文，反复出现的主要失败模式不是新奇攻击，而是配置错误。
- 一项对 50 个真实系统 的审计显示，78% 存在严重问题，最常见的是三类：权限过大、网络扁平化、以及存储里明文暴露的密钥和模型权重。
- 结论是：很多强防护在生产里会因为带来 15%–30% 的推理开销而落地失败，所以关键不是发明新攻防对，而是把防护做得足够便宜、足够能用。
「编程与Agent」频道最新
- 安全专家：让 AI 智能体按 NIST CSF 搭知识库做应急响应 — prasanna_says · 2026-10-26
- Google Cloud Knowledge Catalog 新增自学习上下文充实,为 agent 自动补全企业知识 — rseroter · 2026-10-26
- Cloudflare 推出支出上限功能早期预览,Workers 与 Durable Objects 先行 — ritakozlov · 2026-10-26
- Shopify 设计负责人谈 AI 时代工作流：设计师正变成全栈编辑 — KlausCodes · 2026-10-26
- Nace AI 推出 Drex for Search：让 Agent 精准翻页读云端文件 — testingcatalog · 2026-10-26
- Ultrametric 开源 Open Startup Repo:让 AI Agent 自动运营创业公司 — garrytan · 2026-10-26