D4Vinci/Scrapling

来源
GitHub
首次上榜日期
领域
数据采集
GitHub 星标数
84,340
主要语言
Python
网站
scrapling.readthedocs.io/en/latest (在新标签页中打开)

本页介绍外部开源仓库,并非 HDATF 产品。

D4Vinci/Scrapling

它做什么

Scrapling是一个Python网页抓取框架,页面变化时解析器能重新定位元素。它提供可绕过反爬系统的fetcher,以及支持暂停、恢复和代理轮换的并发爬取spider框架。

对 ATF 的帮助

其自适应选择器和可恢复的爬取方式,可作为LabChin从网络收集检索资料的参考。不过,其绕过反爬系统的功能涉及网站条款和法律问题。

许可证

BSD-3-Clause 宽松许可。可商用,需保留声明,不得用作者名义背书。

同领域的其他仓库

  • pinchtab/pinchtab
    用Go编写的独立HTTP服务器,让AI智能体直接控制Chrome,提供无头浏览器实例、仪表盘、HTTP API和MCP服务器。它首先面向本地单用户使用而设计。
  • koala73/worldmonitor
    一个实时仪表盘,把精选新闻源汇总成AI撰写的简报,并追踪地缘政治、基础设施和金融市场信号,提供3D地球和平面地图视图。其AI可通过Ollama在本地运行。
  • lightpanda-io/browser
    Lightpanda是为AI agent和自动化用Zig从零编写的headless browser。它并非Chromium或WebKit的分支。
  • pathwaycom/pathway
    一个用于批处理和流处理、实时分析、LLM流水线和RAG的Python ETL框架。Python代码运行在进行增量计算的Rust引擎上,同一套代码可用于本地开发、批处理作业和流式处理。
  • calesthio/Crucix
    一个在本地运行的情报仪表盘,每15分钟汇集27个开源情报数据源,例如航班追踪、辐射监测、冲突数据和市场价格。接入LLM后,它会向Telegram和Discord推送提醒并响应指令。

只收录进入 Trendshift 排行榜的仓库,榜单仅用于寻找候选项目,不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目,上榜并不证明质量。

在 GitHub 上查看 (在新标签页中打开)