NVIDIA:AI 安全是工程问题,需在 Agent 全栈每层设防
NVIDIA Blog · rss · 2026-09-21
NVIDIA 博客提出：AI 安全是工程问题，需要明确的安全需求、可执行的控制、责任人与验证证据。
核心论点
- Agent 栈的每一层都有安全责任：模型提供能力，harness 组织上下文与工具，运行时环境承载执行；保护必须覆盖全栈。
- 边界须独立于 Agent 推理：运行环境应在文件、网络目标、进程上直接设限，不依赖 Agent 自身判断；更新客户记录的权限不应自动包含导出数据的权限。
- 每个 Agent 需要可追踪身份与最小任务范围的凭证；重要操作与权限变更需人工审批。
- 保留受保护的工具调用、授权决策日志，便于事后取证。
落地工具
- 开源的 NVIDIA OpenShell：在 Agent 可及范围之外强制策略、提供沙箱执行；Cisco DefenseClaw 在其上加治理层，JFrog 集成扫描验证 Agent skills。
- CrowdStrike SafeMind（攻击模拟测试）、Palo Alto Prisma AIRS（持续红队）、Capital One VulnHunter（AI 代码安全）、ReversingLabs Spectra Assure（软件包恶意检测）。
文章主张部署前需有证据证明控制有效（越权取凭证、外传敏感数据等攻击被阻断），失败要复现、调查并转为可重复测试；并呼吁开放共享攻防经验，把优势导向防御方。
「编程与Agent」频道最新
- 两人小公司用 46 个 AI Agent 运营：审批门禁、哈希锁文件与翻车复盘 — dkovl · 2026-11-12
- Agent 说「Done」不等于真做完:Plurai 仿真核验实际行为 — nikola_mr64990 · 2026-11-12
- LlamaIndex 让 AI Agent 渗透测试自家 LlamaParse，四天暴露四条经验 — llama_index · 2026-11-12
- Manhattan 字体 v0.0.1：每个字母都是一个 Python 函数 — allanyu_ · 2026-11-12
- 用 Backplane「提示词造出」任意扩展卡,网友呼吁扩展口回归标配 — _Stocko_ · 2026-11-12
- Agent 会话跑了 51 分钟烧 24.8 万 token,网友直呼还在干活 — _Stocko_ · 2026-11-12