NVIDIA 推 Open Agent Safety 平台，工程师称智能体安全是技术问题
LuizaJarovsky · x · 2026-10-22
AI 安全研究者 Luiza Jarovsky 在 NVIDIA GTC 现场采访了 NVIDIA Open Agent Safety Platform 核心软件 OpenShell 的主导工程师之一 Ali Golshan，主题是智能体（agentic）AI 安全。
- 核心观点：智能体安全本质是一个技术问题，企业应聚焦智能体的隔离（containment）与监控，而不能只依赖模型层的护栏
- 讨论了开放性为何重要，以及当前企业在 AI 安全与安全工程上的普遍误区
- Jarovsky 表示谈完后更乐观，认为 AI 治理与监管应在包括技术层在内的多层落实安全
- 完整访谈视频将发布在其 newsletter 上
所属事件:NVIDIA 发布 OpenShell 参考架构与 Agent Toolkit 扩展(3 条相关)→
「编程与Agent」频道最新
- Letta 发布 FrontierMemory：用下游任务表现评测 agent 记忆 — carsonfarmer · 2026-10-22
- 上下文工程参考资料：术语表、分类法、本体与知识图谱对比 — adnan_hashmi · 2026-10-22
- 20 年老兵总结 12 层 AI Agent 工程栈，从业务到验证循环 — MaryamMiradi · 2026-10-22
- Kent Beck：代码库价值 = 现有功能 + 它保留的未来可能 — teropa · 2026-10-22
- Amp 团队仅 21 人：每周一会、无 PR、日发布上百次 — jevon · 2026-10-22
- 曝 Google Antigravity 将支持 GPTs 模型 — zacharynado · 2026-10-22