AI Agent 时代网络物理系统面临新型安全风险

社区讨论了网络物理系统在 AI 智能体时代的新型风险向量。有观点提出风险模型：智能体及其继任者可利用权限在共享基础设施中留下持久性修改，这些修改可能被后续智能体发现并组合，进而控制物理过程，类似 Stuxnet 式的复杂物理攻击。讨论还涉及安全与对齐理论，以及 LLM 是否会执行此类攻击，并强调设置分离屏障是关键防线。

2026-09-02 ~ 2026-09-02 · 2 条相关