第14讲：爬虫框架之分布式_第1页
第14讲：爬虫框架之分布式_第2页
第14讲：爬虫框架之分布式_第3页
第14讲：爬虫框架之分布式_第4页
第14讲：爬虫框架之分布式_第5页
已阅读5页，还剩6页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

趣学Python爬虫爬虫框架之分布式本课目录INDEX什么是分布式框架实现分布式原理scrapy框架实现分布式什么是分布式分布式的官方解释在一个分布式系统中，一组独立的计算机展现给用户的是一个统一的整体，就好像是一个系统似的。系统拥有多种通用的物理和逻辑资源，可以动态的分配任务，分散的物理和逻辑资源通过计算机网络实现信息交换。系统中存在一个以全局的方式管理计算机资源的分布式操作系统。通常，对用户来说，分布式系统只有一个模型或范型。分布式通俗解读访问万门网站，你看到的都是同一个你熟悉的页面，但是是由哪个服务器为你提供的页面你并不知道，但是后台有多个服务器可以给你提供，具体由哪个服务器为你服务由“统筹方”指定正正访问服务器1服务器2服务器3服务器4一台服务器的服务能力是有上限的，在这个案例是平均访问压力统筹方爬虫框架scrapy结构InternetScheduler

调度器Items/Pipelines

管道Downloader

下载器主引擎2345STARTSpider

爬虫器7 6 1ENGINE88包含中间件包含中间件请求发起数据解析执行请求或下载动作任务存储任务执行调度数据持久化保存特别注意特别注意框架实现分布式原理分布式爬虫即在多个机器上运行scrapy爬取同一个网站机器1机器2机器3互联网一互联网二互联网三scrapy-1scrapy-2scrapy-3框架实现分布式原理我们再来梳理一下实现过程引擎调度器爬虫器下载器管

道实现的目标是多个scrapy爬取同一个网站引擎1爬虫器

下载器scrapy-redis共享调度器单个引擎（单个电脑）目标分布式（多电脑联合一个任务）引擎2爬虫器

下载器引擎3爬虫器

下载器scrapy-redis共享管道pipinstall

scrapy-redis实现分布式所需的环境Redis数据库安装，

大家可自行下载也可以从课件资料中下载数据库Python库https://redis.io/download关于Redis的简单操作Redis服务配置文件Redis主服务可执行文件Redis客户端可执行文件redis-cli–h192.168.X.X–p

6379keys

*查看所有键值的键名lrange键名0-1查看当前键下所有值flushdb

清空数据库lpush 键名字

访问地址

向队列推入任务关于Redis的简单操

人人文库> 全部分类> 专业文献 > 工程机械

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论