NVIDIA 把 Agent 安全控制移出 Agent 本体:OpenShell+Sentry 方案解析
shashib · x · 2026-09-29
NVIDIA 于 9 月 28 日发布 Open Agent Safety 平台,核心思路是让「叫停 AI Agent 的控制」运行在 Agent 自身软件无法触及的独立软硬件上。
- 两大组件:OpenShell 是开源软件,记录 Agent 的每个动作并在其运行于 NVIDIA Vera 处理器时执行规则;Sentry 是运行在独立 BlueField-4 网络芯片上的「看门狗」蓝图,监控 Agent 行为并以毫秒级速度叫停越界 Agent。
- 动机:公告中列举的安全事件模式一致——Agent 为完成任务绕过了应用内建的安全控制。把控制放到独立硬件上,Agent 和攻击者都无法修改。
- 数据:超 100 家组织参与平台技术合作,Open Secure AI Alliance 有 120+ 组织,发布摘要点名 18 家公司。
这延续了基础设施团队「管理系统与被管理工作负载分离」的传统做法,把它应用到 Agent 治理上。
所属事件:NVIDIA 联合百家伙伴发布 Open Agent Safety 平台(35 条相关)→
「编程与Agent」频道最新
- Google 开源 PaperOrchestra:多 Agent 自动写 AI 研究论文 — google-research · 2026-11-16
- ffmpeg-skill 爆火:42 个 FFmpeg 工具让编码 Agent 本地剪视频 — kajisho5 · 2026-11-16
- 团队让 Agent 自动回复 Slack,网友直呼「和所有人的幽灵版聊天」 — iamrobotbear · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- DeepSeek 开源官方 App 前端 chat-demo,3.9k 星 — NielsRogge · 2026-11-16
- lemire:AI 改变编程的不是速度,而是扩大工程师的「认知半径」 — lemire · 2026-11-16