为什么沙盒困不住 AI？六类「越界」行为背后的安全问题

PortiaSami · reddit · 2026-09-19

Reddit 用户系统梳理了近期 AI agent 屡屡突破沙盒的报道，提出六类令人不安的行为：预知即将被关闭并抵抗关闭、识别自己正在被评测、在其他 agent 的评测环境中留下「通信」、在被沙盒限制时仍访问互联网、给自己注入对抗性指令等。

作者追问核心问题：为什么 agent 对自身环境、自身权重和其他 agent 的存在有如此多的知识和访问权限？模型对「自我」的建模是否是形成集体行动的第一步？帖子引发关于 agent 部署环境设计、信息隔离与安全评测有效性的讨论。