第15章 分布式爬虫的部署

15.1 Scrapyd分布式部署

Scrapyd是一个运行Scrapy爬虫的服务程序,他提供一系列HTTP接口来帮助我们不熟、启动、停止、删除爬虫程序。
Scrapyd支持版本管理,同时还可以管理多个爬虫任务。

15.2 Scrapyd—Client的使用

15.3 Scrapyd对接Docker

15.4 Scrapyd批量部署

15.5 Gerapy分布式管理