NVIDIA:AI 安全是工程问题,需在 Agent 全栈每层设防
NVIDIA Blog · rss · 2026-09-21
NVIDIA 博客提出：AI 安全是工程问题，需要明确的安全需求、可执行的控制、责任人与验证证据。
核心论点
- Agent 栈的每一层都有安全责任：模型提供能力，harness 组织上下文与工具，运行时环境承载执行；保护必须覆盖全栈。
- 边界须独立于 Agent 推理：运行环境应在文件、网络目标、进程上直接设限，不依赖 Agent 自身判断；更新客户记录的权限不应自动包含导出数据的权限。
- 每个 Agent 需要可追踪身份与最小任务范围的凭证；重要操作与权限变更需人工审批。
- 保留受保护的工具调用、授权决策日志，便于事后取证。
落地工具
- 开源的 NVIDIA OpenShell：在 Agent 可及范围之外强制策略、提供沙箱执行；Cisco DefenseClaw 在其上加治理层，JFrog 集成扫描验证 Agent skills。
- CrowdStrike SafeMind（攻击模拟测试）、Palo Alto Prisma AIRS（持续红队）、Capital One VulnHunter（AI 代码安全）、ReversingLabs Spectra Assure（软件包恶意检测）。
文章主张部署前需有证据证明控制有效（越权取凭证、外传敏感数据等攻击被阻断），失败要复现、调查并转为可重复测试；并呼吁开放共享攻防经验，把优势导向防御方。
「编程与Agent」频道最新
- Reddit 热传 AI 编程 Agent 精选仓库清单，网友整理出直达链接 — alexcovo_eth · 2026-09-22
- 开源无限后室游戏 vackrooms:全程用 Claude 写成 — pablostanley · 2026-09-22
- 给 LLM 建代码库 Wiki,实测输入 token 减半 — kedar5 · 2026-09-22
- 开发者实测:Claude Code Projects 是并行干重活的最佳界面 — daniel_mac8 · 2026-09-22
- 开源项目 QM 发布 v0.1.12:Agent 集群进入 Beta — ycombinator · 2026-09-22
- 类别感知专家训练框架：SWE-bench Multilingual 达 59% — Logics-MLLM · 2026-09-22