这期内容当中小编将会给大家带来有关如何实现URL字段的解析，文章内容丰富且以专业的角度为大家分析和叙述，阅读完这篇文章希望大家可以有所收获。
网站建设公司,为您提供网站建设,网站制作,网页设计及定制网站建设服务,专注于
企业网站制作,高端网页制作,对
成都护栏打桩机等多个行业拥有丰富的网站建设经验的网站建设公司。专业网站设计,网站优化推广哪家好,专业
seo优化优化,H5建站,响应式网站。
1.修改爬取的目标地址
我们知道如果想要爬取网站的数据需要在spiders文件中创建一个蜘蛛，创建后这个蜘蛛中会自动生成一个类，类名也是由蜘蛛名加Spider组成，如上一节中爬去csdn网站生成的：CsdnSpider类，这个类中的name也就是蜘蛛的名称，allowed_domains是允许爬取网站的域名，start_urls是需要爬取的目标网站的网址，如果需要更改爬取的目标页面，只需要修改start_urls就可以了；
import scrapy
class CsdnSpider(scrapy.Spider):
name = 'csdn'
allowed_domains = ['www.csdn.net']
start_urls = ['http://www.csdn.net/']
def parse(self, response):
pass
2.解析标题的超链接a标签的跳转地址和标题内容
import scrapy
class CsdnSpider(scrapy.Spider):
name = 'csdn'
allowed_domains = ['www.csdn.net']
start_urls = ['http://www.csdn.net/']
def parse(self, response):
urls = response.css('.company_list .company_name a::attr(href)').extract()
print(urls)这个回调函数是我们自己定义的，也会传递一个response对象，通过这个response对象对css选择器获取的元素进行解析，这样我们就可以拿到每个解析页面的标题内容了；
import scrapy
from scrapy.http import Request
from urllib import parse
class CsdnSpider(scrapy.Spider):
name = 'csdn'
allowed_domains = ['www.csdn.net']
start_urls = ['http://www.csdn.net/']
def parse(self, response):
# 获取url
urls = response.css('.company_list .company_name a::attr(href)').extract()
# print(urls)
# 解析页面
for url in urls:
yield Request(url = parse.urljoin(response.url, url), callback=self.parse_analyse, dont_filter=True)
# 回调函数
def parse_analyse(self, response):
title = response.css('.company_list .company_name a::text').extract_first()
print(title)3.Request对象的介绍
class scrapy.http.Request(url[, callback, method='GET', headers, body, cookies, meta, encoding='utf-8',priority=0, dont_filter=False, errback])，一个request对象代表一个HTTP请求，通常由Spider产生，经Downloader执行从而产生一个Response；
url：用于请求的URL；
callback：指定一个回调函数，该回调函数以这个request是的response作为第一个参数，如果未指定callback则默认使用spider的parse()方法；
method： HTTP请求的方法，默认为GET；
headers：请求的头部；
body：请求的正文，可以是bytes或者str；
cookies：请求携带的cookie；
meta：指定Request.meta属性的初始值，如果给了该参数，dict将会浅拷贝；
encoding：请求的编码， 默认为utf-8；
priority：优先级，优先级越高，越先下载；
dont_filter：指定该请求是否被 Scheduler过滤，该参数可以使request重复使用；
errback：处理异常的回调函数；
上述就是小编为大家分享的如何实现URL字段的解析了，如果刚好有类似的疑惑，不妨参照上述分析进行理解。如果想知道更多相关知识，欢迎关注创新互联-成都网站建设公司行业资讯频道。
名称栏目：如何实现URL字段的解析-创新互联
标题网址：
http://cdkjz.cn/article/dgiipj.html
