黄仁勋谈 AI 安全:围栏隔离加实时监控,安全与进步不是二选一
XFreeze · x · 2026-09-30
黄仁勋系统阐述了 NVIDIA 的 AI 安全观:训练阶段环境相对可控,但评测测试时必须对模型与 agentic 系统做严格围栏(containment),且绝不能假设围栏一定有效,需在沙箱之外的独立芯片上实时监控,越界或违反策略即逐级上报;部署后沿用同一套「围栏+监控」逻辑,如同对待新员工——只给应有的权限并持续监督。为此 NVIDIA 推出两项技术:OpenShell,一个 agent 围栏系统,类似「agent 的浏览器」,把 agent 与计算机其余部分隔离并最小化权限;BlueField 芯片,作为独立监控层全天候观察 agent 行为。他强调「安全与推进技术是一回事」,认为能力与安全此消彼长是伪命题。
「Infra」频道最新
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- Qdrant 1.20.1 发布:冷存储读取减半、量化提速 2 倍 — qdrant_engine · 2026-11-16
- 16GB 显卡本地跑通全套 AI:生图作曲配音视频加 RAG 问答 — llama-of-death · 2026-11-16
- Starlink 在希腊护火车防追尾:134 台机车定位精度达 5 厘米 — XFreeze · 2026-11-16
- Google 将 Agent Substrate、gVisor、OpenRL 捐给 CNCF,Agent 运行底座 1.0 GA — dl_weekly · 2026-11-16
- 英伟达丑闻未完:黄仁勋的千亿美元权力网成焦点 — The Verge AI · 2026-11-16