最近在用python分布式爬虫,使用的是scrapy框架,采用主从模式?
Master和sleeve之间需要协作通信,而实现协作通信需要用到jsonRPC,在网上看了一些这方面的内容,
一、需要安装jsonrpc-scrapy
二、在程序中导入相应的包
三、协作通信主要是通过http来实现
现在有一个master,多个sleeve,master相当于服务器,而sleeve相当于爬虫的节点,来实现具体的爬虫任务。
分布式实现涉及任务的调度,以及任务的分配,但整体还是不太清楚协作通信是如何实现的
长白山-辉夜
9 years, 4 months ago
Answers
最近也在学习这个,但是还没有做到分布式。
上
google
搜索了一下,恰巧也用到了
redis
,之前面试的时候也被问到这个问题。
参考这两个博文,希望对你有帮助,感觉第一个那个可参考性更强一些。
地狱D黎明
answered 9 years, 4 months ago