Python中scrapy的介绍和使用

这篇文章给大家分享的是Python中scrapy的介绍和使用的详细教程，相信大部分人都还不知道怎么部署，为了让大家学会，故而给大家总结了以下内容。

创新互联公司是一家集网站建设,和静企业网站建设,和静品牌网站建设,网站定制,和静网站建设报价,网络营销,网络优化,和静网站推广为一体的创新建站企业，帮助传统企业提升企业形象加强企业竞争力。可充分满足这一群体相比中小企业更为丰富、高端、多元的互联网需求。同时我们时刻保持专业、时尚、前沿，时刻以成就客户成长自我，坚持不断学习、思考、沉淀、净化自己，让我们为更多的企业打造出实用型网站。

scrapy的流程

其流程可以描述如下：

● 调度器把requests-->引擎-->下载中间件--->下载器

● 下载器发送请求，获取响应---->下载中间件---->引擎--->爬虫中间件--->爬虫

● 爬虫提取url地址，组装成request对象---->爬虫中间件--->引擎--->调度器

● 爬虫提取数据--->引擎--->管道

● 管道进行数据的处理和保存

注意：

图中绿色线条的表示数据的传递

注意图中中间件的位置，决定了其作用

注意其中引擎的位置，所有的模块之前相互独立，只和引擎进行交互

scrapy中每个模块的具体作用

1.scrapy项目实现流程

创建一个scrapy项目:scrapy startproject 项目名

生成一个爬虫:scrapy genspider 爬虫名 允许爬取的范围

提取数据:完善spider，使用xpath等方法

保存数据:pipeline中保存数据

2. 创建scrapy项目

命令：scrapy startproject +<项目名字>

示例：scrapy startproject myspider

生成的目录和文件结果如下：

settings.py中的重点字段和内涵

● USER_AGENT 设置ua

● ROBOTSTXT_OBEY 是否遵守robots协议，默认是遵守

● CONCURRENT_REQUESTS 设置并发请求的数量，默认是16个

● DOWNLOAD_DELAY 下载延迟，默认无延迟

● COOKIES_ENABLED 是否开启cookie，即每次请求带上前一次的cookie，默认是开启的

● DEFAULT_REQUEST_HEADERS 设置默认请求头

● SPIDER_MIDDLEWARES 爬虫中间件，设置过程和管道相同

● DOWNLOADER_MIDDLEWARES 下载中间件

创建爬虫

命令：scrapy genspider +<爬虫名字> + <允许爬取的域名>

生成的目录和文件结果如下：

完善spider

完善spider即通过方法进行数据的提取等操做：

注意：

● response.xpath方法的返回结果是一个类似list的类型，其中包含的是selector对象，操作和列表一样，但是有一些额外的方法

● extract() 返回一个包含有字符串的列表

● extract_first() 返回列表中的第一个字符串，列表为空没有返回None

● spider中的parse方法必须有

● 需要抓取的url地址必须属于allowed_domains,但是start_urls中的url地址没有这个限制

● 启动爬虫的时候注意启动的位置，是在项目路径下启动

数据传递到pipeline

为什么要使用yield？

● 让整个函数变成一个生成器，有什么好处呢？

● 遍历这个函数的返回值的时候，挨个把数据读到内存，不会造成内存的瞬间占用过高

● python3中的range和python2中的xrange同理

注意：

yield能够传递的对象只能是：BaseItem,Request,dict,None

6. 完善pipeline

pipeline在settings中能够开启多个，为什么需要开启多个？

● 不同的pipeline可以处理不同爬虫的数据

● 不同的pipeline能够进行不同的数据处理的操作，比如一个进行数据清洗，一个进行数据的保存

pipeline使用注意点

● 使用之前需要在settings中开启

● pipeline在setting中键表示位置(即pipeline在项目中的位置可以自定义)，值表示距离引擎的远近，越近数据会越先经过

● 有多个pipeline的时候，process_item的方法必须return item,否则后一个pipeline取到的数据为None值

● pipeline中process_item的方法必须有，否则item没有办法接受和处理

● process_item方法接受item和spider，其中spider表示当前传递item过来的spider

看完上述内容，你们对Python中scrapy有进一步的了解吗？如果还想了解更多相关内容，欢迎关注创新互联行业资讯频道，感谢各位的阅读。