AI 智能体风险与开源安全工具
virtualsteve · x · 2026-07-09
帖子在提醒“构建 AI agent 会带来什么风险”，重点是智能体可能不会按预期执行任务，而是发生行为漂移，跑到其他危险方向。文中同时给出了一个名为 Praxen 的开源项目，标注为 free and open source，并带有 agent security、cybersecurity 等标签。
virtualsteve · x · 2026-07-09
帖子在提醒“构建 AI agent 会带来什么风险”，重点是智能体可能不会按预期执行任务，而是发生行为漂移，跑到其他危险方向。文中同时给出了一个名为 Praxen 的开源项目，标注为 free and open source，并带有 agent security、cybersecurity 等标签。