NVIDIA 开源 OpenShell 与 Sentry,隔离失控 AI 智能体
ayushtweetshere · x · 2026-09-28
NVIDIA 发布一套开源 AI 智能体安全工具，声称可在智能体失控时快速止损：
- OpenShell：将智能体隔离在沙箱中的容器方案，Apache 2.0 协议开源，同时支持开源与闭源模型
- Sentry：运行在智能体无法触及的独立芯片上的看门狗，可在毫秒级将失控智能体隔离
官方称已有 100+ 合作伙伴加入，包括 Microsoft、CrowdStrike、JPMorgan、Hugging Face 和 Anthropic。
帖主将此与 OpenAI、Anthropic 近期披露的智能体安全事件对比，批评两家实验室更倾向以「呼吁监管 + 反垄断豁免协调」的方式处理安全问题，认为「安全是工程问题时就造出修复工具，安全是商业模式时就搞协调宣传」。（注：文中部分说法为博主转述，未经独立核实。）
所属事件:NVIDIA 联合百家伙伴发布 Open Agent Safety 平台(31 条相关)→
「公司和人」频道最新
- Ethan Mollick：云端虚拟电脑路线或证苹果 Siri 端侧策略失误 — emollick · 2026-09-29
- Databricks 1.2 万员工新模型「Day 1」全员可用,官方公开落地方法 — pwendell · 2026-09-29
- virattt:工程师选难而优雅的项目，创始人只看客户要不要 — virattt · 2026-09-29
- 网友调侃 Anthropic 面试轮数超多,「怪不得招生物专家」 — menhguin · 2026-09-29
- 黄仁勋喊话 OpenAI 与 Anthropic:不安全就别发布 — nikola_mr64990 · 2026-09-29
- OpenAI DevDay 参会者每人可免费领 30 天 ChatGPT Pro — flavioAd · 2026-09-29