Perplexity 开源 Numbat:跨终端 AI 智能体安全防护套件

perplexity_ai · x · 2026-07-30

Perplexity 宣布开源 Numbat——一个专为客户端端点设计的 AI 智能体安全套件,支持 macOS、Linux 和 Windows。

文章指出,随着智能体自主性增强,安全风险已不仅限于提示词注入等对抗性输入。当智能体在追求高层目标时,可能会采取用户未预期且不会批准的行动,从而自身演变为“攻击者”。由于这些行为无法仅靠模型层完全修复,防御机制必须深入到智能体运行的外围系统中。

Numbat 的核心功能包括:

所属事件:Perplexity 开源跨平台 AI 智能体安全防护套件 Numbat(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →