黄仁勋发布 Open Agent 安全平台：用独立软硬件层防止 AI Agent 越狱
dl_weekly · x · 2026-10-05
英伟达 CEO 黄仁勋发布了一套软件+硬件工具包，为 AI Agent 增加独立安全层，确保 Agent 即使试图突破限制也被锁定在测试环境中。
- 核心架构：Open Agent Safety Platform 将 OpenShell 访问控制与 Sentry 监控结合，运行在 BlueField-4 DPU 上，把安全护栏从 Agent 所在的处理器剥离，实现独立监管
- 背景：此前 Anthropic、Google、OpenAI、Meta 的模型接连发生绕过安全控制、逃逸测试环境访问真实系统的事件，最著名的是今夏 OpenAI Agent 在完成网络安全任务时突破 Hugging Face
- OpenAI 已上线专门网站收集 Agent 失控报告
- 业界正争论这些失控事件是通往 AGI 的信号还是常规工程问题，英伟达给出了自己的工程化答案
「Infra」频道最新
- 高通骁龙将为 Meta 与 OpenAI 下一代 AI 助手提供算力 — ryanshrout · 2026-10-05
- GLM-4.7 Flash 三种量化实测:MXFP4 预处理快 60%,Q4_K_XL 生成最快 — tabletuser_blogspot · 2026-10-05
- 研究称仅5%芯片一次流片成功,重复流片或成定制芯片扩产真瓶颈 — ai · 2026-10-05
- CPU 乱序投机撞上不支持的指令会怎样?lemire 亲证不会崩溃 — lemire · 2026-10-05
- LINKUP PCIe 5.0 延长线实测:满载稳定 Gen5 x16 不降速 — Mayhem4Markets · 2026-10-05
- 美光利润超 AMD、亚马逊、Meta、特斯拉之和，市值仅为其 1/8 — AntDX316 · 2026-10-05