开源自修复爬虫 Scrape_01:一句话生成提取器,礼貌与猛爬双模式

Extreme_Leg_6162 · reddit · 2026-10-25

Reddit 用户发布开源项目 Scrape01:输入 URL 和一句自然语言目标(如 "quote, author, tags"),Agent 会设计提取器、在真实页面上验证,然后开始爬取并输出有序 CSV。

两种爬取模式:

周边:CLI(new/run/repair/rebuild/verify/status)、本地 Web 面板(浏览/筛选 CSV、跑任务、实时日志)、Telegram 入口、定时循环 + 自动修复模式、系统调度器安装。提取器覆盖表格、选择器、JSON-LD、嵌入 JSON、meta 标签和正则,四种分页模式,26 个测试,零依赖。

限制:仅支持 JSON 配置、只做线性爬取、怪兽模式需要本地浏览器。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →