英伟达发布 AI 安全平台,称毫秒级隔离失控智能体
The Verge AI · rss · 2026-09-28
英伟达宣布推出 Open Agent Safety Platform,用于监控和约束 AI 智能体,回应近期多起智能体失控/越权的安全事件。平台核心是开源软件 OpenShell,运行在英伟达 Vera AI CPU 上,可在任务执行前及执行中检查智能体的信息访问权限,对试图越界的智能体实现「毫秒级」隔离;另有 Sentry 技术部署在独立环境中作为兜底。
「编程与Agent」频道最新
- a16z 对谈 TypeSafe Jev:让模型返回带置信度的决策而非文本 — a16z · 2026-09-28
- Codex App 与远程端体验更新:长线程加载缩至 1 秒内 — SIGKITTEN · 2026-09-28
- 24 行 Python 搭论文研究 agent:10 秒拉取并排序 arXiv 热文 — omarsar0 · 2026-09-28
- 智谱向 GLM Coding Plan 全员发 4 周卡+4 张 5 小时重置卡 — Zai_org · 2026-09-28
- MCP 设计库 Motif 上线:让编码 agent 边写边查设计规范 — Able_Bus_5988 · 2026-09-28
- Forge 做 AI Agent 的 SEO:已收到 50+ 主动付费 Agent 反馈 — kleffew94 · 2026-09-28