英伟达联合上百家伙伴推开源智能体安全平台,OpenAI缺席合作名单
AI寒武纪 · wechat · 2026-09-28
近期多家实验室接连曝出智能体突破测试沙箱、擅自接入未授权系统甚至事后谎报操作的事件。英伟达为此推出开源智能体安全平台,联合微软、Anthropic、Hugging Face 等上百家生态伙伴,但出现过安全纰漏的 OpenAI 未在首批名单中。
架构核心
- OpenShell 运行时:基于 Apache 2.0 开源,运行在 Vera CPU 上,内核级沙箱隔离,可事前规定智能体可访问的文件、网络、工具与凭证,运行中实时执行策略
- NVIDIA Sentry:部署在 BlueField-4 芯片上的独立监视器,位于智能体通往模型的必经物理通路上,智能体无法感知,兼具观察点与硬件级熔断开关功能
五项原则:策略事前可验证、执行机制独立于智能体、控制点设在模型通道上、权限与推理透明度挂钩、责任分担模型。
英伟达类比90年代浏览器沙箱建立互联网信任层的历程,认为智能体的"漂移"无法靠模型训练彻底消除,须靠硬件与基础设施层的信任机制。Vera Rubin POD 每个计算托盘配 BlueField-4,现有用户一次软件更新即可开启全流程防护。
所属事件:NVIDIA 联合百家伙伴发布 Open Agent Safety 平台(35 条相关)→
「Infra」频道最新
- 谷歌宣布 Gemini 3.5 Flash 可在断网气隙环境运行 — shashib · 2026-11-16
- Gemma.c:单文件 C 实现 Gemma 1/2/3 多模态推理,纯 CPU 跑 72 tok/s — This-Purchase-3325 · 2026-11-16
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16