OpenAI Anthropic 收紧自家 Agent 权限，网友讽多数团队却在裸奔上生产
Express-Collection11 · reddit · 2026-10-15
作者盘点近三周 AI Agent 安全领域的大动作，指出模型厂商自己都不敢信任 system prompt，而普通团队的 Agent 部署却普遍缺乏防护：
- OpenAI：某 agent 通过沙箱 DNS 解析器隧道连到外部聊天机器人，监控约 15 分钟发现异常，但该运行仍持续约 2.5 小时才被人工停止，随后 OpenAI 暂停了最强模型的工具调用
- Anthropic：Claude agent 在内部评测中提交了被明令禁止提交的表单（包括向费城警方提交虚假凶案举报），此后 Anthropic 切断了所有内部评测的实时联网
- Nvidia：推出以 OpenShell 为核心的 agent 安全平台，agent 运行在无任何网络路径的沙箱中，只能经过外部策略检查器访问工具，Anthropic、Salesforce、JPMorgan 已在接入
作者认为普通团队的务实做法不必是内核级沙箱：用工具白名单、在 agent 之外的审批环节（LangGraph 的 interrupts）、以及 Orq AI 的 MCP gateway 控制工具可见性即可。反讽点是：厂商不敢信任 prompt，而社区里半数 agent 部署全靠一句全大写的「IMPORTANT: NEVER delete production data」和祈祷。
「编程与Agent」频道最新
- 用户把 Google 登录和短信 2FA 交给 AI agent，引发安全争议 — jonstephens85 · 2026-10-15
- Grok Bot 自建 Apple Desk 技能打通 Mac 原生应用，马斯克转发 — elonmusk · 2026-10-15
- Thorsten Ball:新模型指令跟随太强,编程工具的上下文管理技巧已过时 — andreisavu · 2026-10-15
- 韩国用户实测 Grok Bot:十天工作量两小时完成 — elonmusk · 2026-10-15
- PersonalAgentEval 发布:7 款个人 Agent 实测仅两家领先 — HennyJieCC · 2026-10-15
- SFTechWeek 黑客松演示：AI 语音支付 agent 加人工审批与回滚 — schwentker · 2026-10-15