安全研究者激辩 Agent 安全：沙箱并非万能

围绕近期 agent 安全事件，安全研究者 chrisrohlf、moyix、kuza55 展开讨论，指出安全圈两种典型态度——「上沙箱就行」与「对齐研究浪费时间」——都有问题。moyix 认为即使有最好的隔离控制，agent 交付用户后仍需访问真实资源，沙箱并不够用；kuza55 则指出争论各方混淆了多种威胁模型，「沙箱隔离」只适用于在隔离环境中测试模型上限的场景，agent 安全最终仍需对齐研究兜底。

2026-10-05 ~ 2026-10-06 · 4 条相关