NVIDIA 开源 OpenShell 与 Sentry,隔离失控 AI 智能体
ayushtweetshere · x · 2026-09-28
NVIDIA 发布一套开源 AI 智能体安全工具,声称可在智能体失控时快速止损:
- OpenShell:将智能体隔离在沙箱中的容器方案,Apache 2.0 协议开源,同时支持开源与闭源模型
- Sentry:运行在智能体无法触及的独立芯片上的看门狗,可在毫秒级将失控智能体隔离
官方称已有 100+ 合作伙伴加入,包括 Microsoft、CrowdStrike、JPMorgan、Hugging Face 和 Anthropic。
帖主将此与 OpenAI、Anthropic 近期披露的智能体安全事件对比,批评两家实验室更倾向以「呼吁监管 + 反垄断豁免协调」的方式处理安全问题,认为「安全是工程问题时就造出修复工具,安全是商业模式时就搞协调宣传」。(注:文中部分说法为博主转述,未经独立核实。)
所属事件:NVIDIA 联合百家伙伴发布 Open Agent Safety 平台(35 条相关)→
「公司和人」频道最新
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- DeepSeek 开源官方 App 前端 chat-demo,3.9k 星 — NielsRogge · 2026-11-16
- CNN 报道黄仁勋「帝国式管控」延伸到食堂:员工被迫尝牛胸肉 — kevinnbass · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16
- Nadella访谈:代码生成已廉价,验证才是新瓶颈 — The Pragmatic Engineer · 2026-11-16