NVIDIA 推出 Open Agent 安全平台,超 100 家机构接入
mikeflache · x · 2026-10-02
- NVIDIA 发布 Open Agent Safety Platform,把 AI 安全下沉到基础设施层:开源安全运行时 OpenShell + 硬件级看门狗 Sentry,可实时监控 agent 行为,越界时毫秒级隔离。
- 超过 100 家组织已在使用或合作,包括 Anthropic、Microsoft、Salesforce、SAP、Citi 和 JPMorganChase。
- 逻辑:企业 AI 已从聊天走向能调用工具、访问数据库、写代码、跨系统操作的 agent,安全要从「保护模型」转向「管住 agent 的实际行为」。
- 黄仁勋表态:「只有解决 AI 安全问题,AI 对社会的巨大潜力才能实现。」
所属事件:NVIDIA 发布 Open Agent 安全平台,超百家机构接入(3 条相关)→
「编程与Agent」频道最新
- 双模型组队改UI:规划模型搭把手,成品明显更整洁 — kevinkern · 2026-11-19
- Brian Armstrong:专业化开源模型团队协作可胜过前沿大模型 — markjeffrey · 2026-11-19
- onboarding 该为 Agent 重做:用消耗的 token 数来衡量 — yenkel · 2026-11-19
- 提示词技巧:用「不设限于具体细节」描述氛围避免模式坍缩 — gabriel1 · 2026-11-19
- AI Agent 护栏分三类:输入、输出与限流的工具护栏 — Zachly · 2026-11-19
- Ramp 实测:原生 harness 普遍提升模型解题率,但效果因模型而异 — xeophon · 2026-11-19