Nvidia 推 Open Agent Safety Platform,工程师详解智能体安全三层架构
LuizaJarovsky · x · 2026-11-01
AI 治理研究者 Luiza Jarovsky 采访了 Nvidia 新发布的 Open Agent Safety Platform 核心工程师 Ali Golshan，讨论智能体 AI 安全的技术路线。
背景要点：
- 在 OpenAI/Hugging Face 事件、PHP 漏洞泄露、AI 驱动攻击频发的背景下，智能体安全被视为最紧迫的 AI 挑战之一
- 该平台包含应用层、运行时和基础设施层，目标是让策略可验证、智能体可持续被隔离与监控，保证人类有效监督
- OpenShell 组件以 Apache 2.0 开源协议发布，访谈还解释了「开放」对安全生态的意义
作者此前受邀参加 Nvidia 柏林 GTC 大会，这是其对智能体安全危机「技术、治理、文化三线并进」论述中技术路线的落地案例。
所属事件:英伟达推出 Open Agent Safety Platform 保障智能体安全(2 条相关)→
「模型」频道最新
- 开发者吐槽:被 Opus 5.5 惯坏,现已无法忍受 OpenAI 模型 — marclou · 2026-11-01
- 本地语音转写模型横评：Nemotron 3.5 击败 Fable 居首 — CryptoxPathy · 2026-11-01
- Mistral Large 4 的 41% 跑分只在自家编码 Agent 里成立 — julsimon · 2026-11-01
- Mistral 开源 Large 4 权重：约 1T 参数 MoE、100 万上下文 — AIFlow_ML · 2026-11-01
- Anthropic 将为 Claude 输出文本加隐形水印，11 月 3 日全球生效 — StewartalsopIII · 2026-11-01
- OpenAI 信用点被扒:换算后与 API 美元价完全相同,被批手游氪金话术 — johnybgoat · 2026-11-01