开源自修复爬虫 Scrape_01:一句话生成提取器,礼貌与猛爬双模式
Extreme_Leg_6162 · reddit · 2026-10-25
Reddit 用户发布开源项目 Scrape01:输入 URL 和一句自然语言目标(如 "quote, author, tags"),Agent 会设计提取器、在真实页面上验证,然后开始爬取并输出有序 CSV。
两种爬取模式:
- 礼貌模式(默认):遵守 robots.txt、请求间隔 1 秒、不执行 JS
- 怪兽模式:本地 Chrome/Edge 渲染页面、间隔约 150ms、更强重试、更大页面预算、忽略 robots.txt(跳过的主机都会记录日志)。适合 JS 重度站点和数据藏在嵌入 JSON 里的页面。不破解验证码,每主机串行请求
周边:CLI(new/run/repair/rebuild/verify/status)、本地 Web 面板(浏览/筛选 CSV、跑任务、实时日志)、Telegram 入口、定时循环 + 自动修复模式、系统调度器安装。提取器覆盖表格、选择器、JSON-LD、嵌入 JSON、meta 标签和正则,四种分页模式,26 个测试,零依赖。
限制:仅支持 JSON 配置、只做线性爬取、怪兽模式需要本地浏览器。
「编程与Agent」频道最新
- 从单 agent 到 30+ agent 团队:GrokBot 多智能体编排实战拆解 — 2C_ornot2C · 2026-10-25
- 零依赖本地 MCP 服务器 Vicem:代码骨架化省 80-90% token — NoConclusion8361 · 2026-10-25
- 「代码已成黏土」:iOS 开发者阐述 Agentic Coding 如何重塑工程方式 — bibryam · 2026-10-25
- 从嫌费 token 到真香:作者详解为何该给 Agent 写 SKILL — ievkz · 2026-10-25
- Row-Bot 5.3 发布:内置浏览器与分级审批的本地优先 Agent — Acceptable-Object390 · 2026-10-25
- 专业化成本崩塌,任务专属推理引擎正成为 agentic coding 新战场 — _AustinCalvert_ · 2026-10-25