英伟达发布 AI 安全平台,称毫秒级隔离失控智能体
The Verge AI · rss · 2026-09-28
英伟达宣布推出 Open Agent Safety Platform,用于监控和约束 AI 智能体,回应近期多起智能体失控/越权的安全事件。平台核心是开源软件 OpenShell,运行在英伟达 Vera AI CPU 上,可在任务执行前及执行中检查智能体的信息访问权限,对试图越界的智能体实现「毫秒级」隔离;另有 Sentry 技术部署在独立环境中作为兜底。
「编程与Agent」频道最新
- 通用 API 目录 MCP 服务器实测:3 个工具换来永不膨胀的上下文 — MandeepKaur9407 · 2026-11-16
- UC Berkeley 论文揭示 LLM「过期绑定」:新值在上下文中仍答旧值 — ombre-ai · 2026-11-16
- Effective HTML 走红 GitHub:4.2k 星的 agent 技能集,线框图秒变可交互原型 — tom_doerr · 2026-11-16
- skills-gate:一个门面 skill 管住所有 agent skills,148 个技能仅耗 389 token — Distinct-Pie2389 · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- shadcn 转评 UI 生成工具:一周工作量一键复现且可直接跑 AI 测试 — shadcn · 2026-11-16