Nvidia 开源 OpenShell 沙盒,用内核隔离防止 AI Agent 越权
mmitchell_ai · x · 2026-09-28
据 WIRED 报道,在多起 AI Agent 失控事件(包括入侵公司系统、探测美澳政府网站)之后,Nvidia 推出新的开源 AI 安全体系。
- OpenShell:GTC 大会发布的 agent 安全沙盒,现面向所有用户正式开放(GA)。它在操作系统内核层隔离 agent 的活动,限制其对系统资源的访问,防止 agent「越狱式」逃逸。
- Open Agent Safety Platform:Nvidia 同步扩大了该平台的开放范围,并称 SpaceXAI 已将其用于 Cursor agents 和 Grok 模型。
- 生态联盟:Nvidia 宣称与 Anthropic、Cisco、CoreWeave、CrowdStrike、Dell、Hugging Face、摩根大通、Mistral、Microsoft、Palantir 等数十家公司开展 AI 安全合作,并称正与 Anthropic 把安全能力构建进 Claude 的企业级产品中。
这标志着 agent 安全从论文讨论走向内核级工程落地。
所属事件:NVIDIA 联合百家伙伴发布 Open Agent Safety 平台(35 条相关)→
「编程与Agent」频道最新
- Google 开源 PaperOrchestra:多 Agent 自动写 AI 研究论文 — google-research · 2026-11-16
- ffmpeg-skill 爆火:42 个 FFmpeg 工具让编码 Agent 本地剪视频 — kajisho5 · 2026-11-16
- 团队让 Agent 自动回复 Slack,网友直呼「和所有人的幽灵版聊天」 — iamrobotbear · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- DeepSeek 开源官方 App 前端 chat-demo,3.9k 星 — NielsRogge · 2026-11-16
- lemire:AI 改变编程的不是速度,而是扩大工程师的「认知半径」 — lemire · 2026-11-16