Ryan Dahl 开源 Claw Patrol:在协议层拦截 agent 的危险操作
AI Engineer · youtube · 2026-08-18
Deno 创始人 Ryan Dahl 演讲分享其生产实践:Deno 的事件响应 agent 拥有生产 Postgres、Kubernetes、ClickHouse、AWS、GitHub 和 Slack 的读写权限,已能独立闭环过去需要叫醒人类的故障。但他指出真正的风险是 agent 经由接入的支持系统被 prompt injection——安全不能寄托在模型「听话」上,agent 必须被视为不可信软件,守卫不能长在它内部。
Claw Patrol 方案要点
- MIT 开源的代理层,在 HTTP 之下的字节层解析 agent 发出的每个请求,因为危险路径往往不是 HTTP(agent 可以 spawn psql 子进程经 EKS 端点直连生产库,MCP 工具权限看不到)
- 规则用 HCL(Terraform 配置语言)写,进 git、可用 fixture 请求做单元测试,Deno 自己的规则文件约千行
- 凭证由代理持有,agent 全程见不到,覆盖 cookies、OAuth、AWS SigV4;敏感动作可路由到 LLM judge、Slack 人工或双重审批
- 演示:Codex yolo 模式服从删除 users 表的指令,代理在 Postgres 线协议层将其拦截;支持经 Tailscale/WireGuard 运行
「编程与Agent」频道最新
- 「建筑师 vs 园丁」：开发者质疑 AI 编程前的 plan-maxxing 风潮 — nptacek · 2026-10-16
- OpenRouter 发布 Armor 测试版:在 Agent 执行前拦截违规工具调用 — dfinke · 2026-10-16
- Meta 开源编程模型 Muse Spark Open 上线 Modal，主攻长程智能体任务 — AAAzzam · 2026-10-16
- Google SRE 书十周年推第二版，新增智能体时代 SRE 实践指南 — RealGeneKim · 2026-10-16
- GRPO 后训练会令分布坍缩,长程 Agent 时代反成隐患 — zsakib_ · 2026-10-16
- 开发者用 Claude 逐帧写代码，免费给创业公司画吉祥物 GIF — jeremy_goldberg · 2026-10-16