如何构建一个分布式爬虫:基础篇

上篇我们谈论了Celery的基本知识后,本篇继续讲解如何一步步使用Celery构建分布式爬虫。这次我们抓取的对象定为celery官方文档

首先,我们新建目录distributedspider,然后再在其中新建文件workers.py,里面内容如下

上述代码主要是做Celery实例的初始化工作,include是在初始化celery app的时候需要引入的内容,主要就是注册为网络调用的函数所在的文件。然后我们再编写任务函数,新建文件tasks.py,内容如下

它的作用很简单,就是抓取指定的url,并且把标签为h1的元素提取出来

最后,我们新建文件task_dispatcher.py,内容如下

这段代码的作用主要就是给worker发送任务,任务是tasks.crawl,参数是url(元祖的形式)

现在,让我们在节点A(hostname为resolvewang的主机)上启动worker

这里 -c指定了线程数为2, -l表示日志等级是info。我们把代码拷贝到节点B(节点名为wpm的主机),同样以相同命令启动worker,便可以看到以下输出

两个节点

可以看到左边节点(A)先是all alone,表示只有一个节点;后来再节点B启动后,它便和B同步了

这个时候,我们运行给这两个worker节点发送抓取任务

可以看到如下输出

分布式抓取示意图

可以看到两个节点都在执行抓取任务,并且它们的任务不会重复。我们再在redis里看看结果

backend示意图

可以看到一共有11条结果,说明 tasks.crawl中返回的数据都在db2(backend)中了,并且以json的形式存储了起来,除了返回的结果,还有执行是否成功等信息。

到此,我们就实现了一个很基础的分布式网络爬虫,但是它还不具有很好的扩展性,而且貌似太简单了…下一篇我将以微博数据采集为例来演示如何构建一个稳健的分布式网络爬虫。


对微博大规模数据采集感兴趣的同学可以关注一下分布式微博爬虫,用用也是极好的

1 4 收藏 评论

相关文章

可能感兴趣的话题



直接登录
跳到底部
返回顶部