实测:AI Agent 打不开 Zillow/Indeed/Reddit,接爬虫 API 后 3/3 全通

eyishazyer · x · 2026-11-07

作者做了一组对照实验:同一台电脑、同一天、同一 prompt,让 Claude Code(默认 web 工具)访问 5 个公开页面,其中 Zillow、Indeed、Reddit 三个被反爬拦截——Zillow 弹人机验证、Indeed 只加载一条、Reddit 直接报错。「模型没问题,只是拿不到页面」。

换用 Oxylabs Web API(MCP 接入)后,同样的 3 个页面全部完整加载:Zillow 读到 9 条房源、Indeed 首页列表完整、Reddit 能读全文。作者给出两点安装命令(uv tool install + npx skills add),支持 Claude Code、Cursor、Codex 等 MCP agent。

背景数据:Cloudflare 称今年超一半网络流量非人类,其网络上 AI agent 请求一年增长超 1700%;9 月 15 日起新站点默认在含广告页面上拦截 agent。作者还强调 Oxylabs 具备 ISO 27001、SOC 2 Type II、GDPR 合规与保险,可用于工作场景。

所属事件:实测显示 AI Agent 访问公开网站常被反爬拦截(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →