第15章 分布式爬虫的部署
第15章 分布式爬虫的部署
15.1 Scrapyd分布式部署
Scrapyd是一个运行Scrapy爬虫的服务程序,他提供一系列HTTP接口来帮助我们不熟、启动、停止、删除爬虫程序。
Scrapyd支持版本管理,同时还可以管理多个爬虫任务。
15.2 Scrapyd—Client的使用
15.3 Scrapyd对接Docker
15.4 Scrapyd批量部署
15.5 Gerapy分布式管理
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 Qin Blog!