研究员：AI Agent 沙箱内可完成的任务不应保留外联权限
moniquejmorrow · x · 2026-10-02
AI 安全研究者 moniquejmorrow 提出 agent 安全设计原则：如果一个 agent 的任务可以在已批准的环境（沙箱）内全部完成，就不应给它对外网络访问权限。
她指出，把外联通道开放给 agent 再靠提示词让它「不要用」，会让系统的安全边界实际上取决于模型是否遵循指令，而不是架构层面的硬约束。真正的约束应该由环境来保证，而非模型的服从性。
所属事件:安全研究者呼吁Agent权限最小化应由架构强制执行(2 条相关)→
「编程与Agent」频道最新
- 爆料：Gemini 桌面端将获完全访问权限，可操控 Mac 任意应用 — testingcatalog · 2026-10-02
- 用航空维修受控英语写论文?实测发现更适合说明书 — Paimaamu · 2026-10-02
- 用 Statecharts 驯服分布式 Agent:Earendil Pi Durable 的可交互复刻 — sloppenheimer · 2026-10-02
- 微软开源 NVX:基于 OpenVMM 的超轻量微 VM 沙箱,专跑不可信 Agent 负载 — unixterminal · 2026-10-02
- exe.dev：别再堆任务管理面板，请少跑一些 Agent — charles_irl · 2026-10-02
- 开发者搭出多智能体 ML 团队:人类只需审批,token 省 40% — kmeanskaran · 2026-10-02