Scrapy快速入门
安装和文档：
- 安装：通过pip install scrapy即可安装。
- Scrapy官方文档：http://doc.scrapy.org/en/latest
- Scrapy中文文档：http://scrapy-chs.readthedocs.io/zh_CN/latest/index.html
注意：
- 在ubuntu上安装scrapy之前，需要先安装以下依赖：sudo apt-get install python3-dev build-essential python3-pip libxml2-dev libxslt1-dev zlib1g-dev libffi-dev libssl-dev，然后再通过pip install scrapy安装。
- 如果在windows系统下，提示这个错误ModuleNotFoundError: No module named 'win32api'，那么使用以下命令可以解决：pip install pypiwin32。
快速入门：
创建项目：
要使用Scrapy框架创建项目，需要通过命令来创建。首先进入到你想把这个项目存放的目录。然后使用以下命令创建：
代码语言：javascript复制scrapy startproject [项目名称]
目录结构介绍：
以下介绍下主要文件的作用：
items.py：用来存放爬虫爬取下来数据的模型。 middlewares.py：用来存放各种中间件的文件。 pipelines.py：用来将items的模型存储到本地磁盘中。 settings.py：本爬虫的一些配置信息（比如请求头、多久发送一次请求、ip代理池等）。 scrapy.cfg：项目的配置文件。 spiders包：以后所有的爬虫，都是存放到这个里面。
Scrapy框架架构
Scrapy框架介绍：
写一个爬虫，需要做很多的事情。比如：发送网络请求（urllib库、requests库）、数据解析（BeautifulSoup库、xpath解析、正则表达式、css选择器）、数据存储（excel表格、csv文件、json文件、MySQL数据库、MongoDB数据库）、反反爬虫机制（更换ip代理、设置请求头等）、异步请求等。 这些工作如果每次都要自己从零开始写的话，比较浪费时间。因此Scrapy把一些基础的东西封装好了，在他上面写爬虫可以变的更加的高效（爬取效率和开发效率）。 因此真正在公司里，一些上了量的爬虫，都是使用Scrapy框架来解决。
Scrapy框架模块功能：
- Scrapy Engine（引擎）：Scrapy框架的核心部分。负责在Spider和ItemPipeline、Downloader、Scheduler中间通信、传递数据等。
- Spider（爬虫）：发送需要爬取的链接给引擎，最后引擎把其他模块请求回来的数据再发送给爬虫，爬虫就去解析想要的数据。这个部分是我们开发者自己写 的，因为要爬取哪些链接，页面中的哪些数据是我们需要的，都是由程序员自己决定。
- Scheduler（调度器）：负责接收引擎发送过来的请求，并按照一定的方式进行排列和整理，负责调度请求的顺序等。
- Downloader（下载器）：负责接收引擎传过来的下载请求，然后去网络上下载对应的数据再交还给引擎。
- Item Pipeline（管道）：负责将Spider（爬虫）传递过来的数据进行保存。具体保存在哪里，应该看开发者自己的需求。
- Downloader Middlewares（下载中间件）：可以扩展下载器和引擎之间通信功能的中间件。
- Spider Middlewares（Spider中间件）：可以扩展引擎和爬虫之间通信功能的中间件。
Scrapy Shell
我们想要在爬虫中使用xpath、beautifulsoup、正则表达式、css选择器等来提取想要的数据。但是因为scrapy是一个比较重的框架。每次运行起来都要等待一段时间。因此要去验证我们写的提取规则是否正确，是一个比较麻烦的事情。因此Scrapy提供了一个shell，用来方便的测试规则。当然也不仅仅局限于这一个功能。
打开Scrapy Shell：
打开cmd终端，进入到Scrapy项目所在的目录，然后进入到scrapy框架所在的虚拟环境中，输入命令scrapy shell [链接]。就会进入到scrapy的shell环境中。在这个环境中，你可以跟在爬虫的parse方法中一样使用了。
使用Scrapy框架爬取糗事百科段子：
使用命令创建一个爬虫：
代码语言：javascript复制scrapy startproject qsbk
scrapy gensipder qsbk "qiushibaike.com"
创建了一个名字叫做qsbk的爬虫，并且能爬取的网页只会限制在qiushibaike.com这个域名下。
爬虫代码如下：
代码语言：javascript复制import scrapy
class QsbkSpider(scrapy.Spider):
name = 'qsbk'
allowed_domains = ['qiushibaike.com']
start_urls = ['http://qiushibaike.com/']
def parse(self, response):
pass
爬虫代码解析：
其实这些代码我们完全可以自己手动去写，而不用命令。只不过是不用命令，自己写这些代码比较麻烦。 要创建一个Spider，那么必须自定义一个类，继承自scrapy.Spider，然后在这个类中定义三个属性和一个方法。
- name：这个爬虫的名字，名字必须是唯一的。
- allow_domains：允许的域名。爬虫只会爬取这个域名下的网页，其他不是这个域名下的网页会被自动忽略。
- start_urls：爬虫从这个变量中的url开始。
- parse：引擎会把下载器下载回来的数据扔给爬虫解析，爬虫再把数据传给这个parse方法。这个是个固定的写法。这个方法的作用有两个，第一个是提取想要的数据。第二个是生成下一个请求的url。
修改settings.py代码：
在做一个爬虫之前，一定要记得修改setttings.py中的设置。两个地方是强烈建议设置的。
- ROBOTSTXT_OBEY设置为False。默认是True。即遵守机器协议，那么在爬虫的时候，scrapy首先去找robots.txt文件，如果没有找到。则直接停止爬取。
- DEFAULT_REQUEST_HEADERS添加User-Agent。这个也是告诉服务器，我这个请求是一个正常的请求，不是一个爬虫。
完成的爬虫代码：
项目结构
1.爬虫部分代码：
代码语言：javascript复制# 1.爬虫部分代码：
import scrapy
from qsbk.items import QsbkItem
from scrapy.http.response.html import HtmlResponse
from scrapy.selector.unified import SelectorList
class QsbkSpiderSpider(scrapy.Spider):
#name：这个爬虫的名字，名字必须唯一
name = 'qsbk_spider'
#allowed_domains：允许的域名范围
allowed_domains = ['qiushibaike.com']
#start_urls：爬虫从这个变量中的url开始
start_urls = ['https://www.qiushibaike.com/text/page/1/']
base_domain = "https://www.qiushibaike.com"
def parse(self, response):
duanzidivs = response.xpath("//div[@class='col1 old-style-col1']/div")
for duanzidiv in duanzidivs:
# Selector
author = duanzidiv.xpath(".//h2/text()").get().strip() #strip()是去除前后空白
content = duanzidiv.xpath(".//div[@class='content']//text()").getall()
content = "".join(content).strip() #content就变成字符串str了
# print(content)
item = QsbkItem(author=author, content=content)
# duanzi = {"author":author, "content":content} #定义一个字典存放
yield item
next_url = response.xpath("//ul[@class='pagination']/li[last()]/a/@href").get()
if not next_url:
return
else:
yield scrapy.Request(self.base_domain next_url,callback=self.parse)
下面是scrapy shell 测试的代码
2.items.py部分代码：
代码语言：javascript复制# 2.items.py部分代码：
import scrapy
class QsbkItem(scrapy.Item):
author = scrapy.Field()
content = scrapy.Field()
3.pipeline部分代码：
代码语言：javascript复制import json
########## 方法一 ##########
# class QsbkPipeline(object):
# def __init__(self):
# self.fp = open("duanzi.json", "w", encoding='utf-8')
#
# def open_spider(self, spider):
# print('爬虫开始了……')
#
# def process_item(self, item, spider):
# item_json = json.dumps(dict(item), ensure_ascii=False)
# self.fp.write(item_json 'n')
# return item
#
# def close_spider(self, spider):
# self.fp.close()
# print('爬虫结束了…')
########## 方法二 ##########
#### 数据量比较少的时候 可以用JsonItemExporter
from scrapy.exporters import JsonItemExporter
# class QsbkPipeline(object):
# def __init__(self):
# self.fp = open("duanzi.json", "wb") #以二进制的方式写入
# self.exportr = JsonItemExporter(self.fp, ensure_ascii=False, encoding='utf-8')
# self.exportr.start_exporting()
#
# def open_spider(self, spider):
# print('爬虫开始了……')
#
# def process_item(self, item, spider):
# # item_json = json.dumps(dict(item), ensure_ascii=False)
# # self.fp.write(item_json 'n')
# self.exportr.export_item(item)
# return item
#
# def close_spider(self, spider):
# self.exportr.finish_exporting()
# self.fp.close()
# print('爬虫结束了…')
########## 方法三 ##########
#### 数据量比较多的时候，需要用JsonLinesItemExporter
from scrapy.exporters import JsonLinesItemExporter
class QsbkPipeline(object):
def __init__(self):
self.fp = open("duanzi.json", "wb") #以二进制的方式写入
self.exportr = JsonLinesItemExporter(self.fp, ensure_ascii=False, encoding='utf-8')
def open_spider(self, spider):
print('爬虫开始了……')
def process_item(self, item, spider):
self.exportr.export_item(item)
return item
def close_spider(self, spider):
self.fp.close()
print('爬虫结束了…')
4、setting部分代码
代码语言：javascript复制BOT_NAME = 'qsbk'
SPIDER_MODULES = ['qsbk.spiders']
NEWSPIDER_MODULE = 'qsbk.spiders'
ROBOTSTXT_OBEY = False
DEFAULT_REQUEST_HEADERS = {
'Accept': 'text/html,application/xhtml xml,application/xml;q=0.9,*/*;q=0.8',
'Accept-Language': 'en',
'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.80 Safari/537.36'
}
ITEM_PIPELINES = {
'qsbk.pipelines.QsbkPipeline': 300,
}
DOWNLOADER_MIDDLEWARES = {
'qsbk.middlewares.RandomUserAgentMiddleware': 543,
}
MY_USER_AGENT = [
"Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; AcooBrowser; .NET CLR 1.1.4322; .NET CLR 2.0.50727)",
"Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; Acoo Browser; SLCC1; .NET CLR 2.0.50727; Media Center PC 5.0; .NET CLR 3.0.04506)",
"Mozilla/4.0 (compatible; MSIE 7.0; AOL 9.5; AOLBuild 4337.35; Windows NT 5.1; .NET CLR 1.1.4322; .NET CLR 2.0.50727)",
]
5、middlewares部分代码
代码语言：javascript复制import random
class RandomUserAgentMiddleware(object):
def __init__(self, user_agents):
self.user_agents = user_agents
@classmethod
def from_crawler(cls, crawler):
# 从settings.py中导入MY_USER_AGENT
s = cls(user_agents=crawler.settings.get('MY_USER_AGENT'))
return s
def process_request(self, request, spider):
agent = random.choice(self.user_agents)
request.headers['User-Agent'] = agent
return None
运行scrapy项目：
运行scrapy项目。需要在终端，进入项目所在的路径，然后scrapy crawl [爬虫名字]即可运行指定的爬虫。如果不想每次都在命令行中运行，那么可以把这个命令写在一个文件中。以后就在pycharm中执行运行这个文件就可以了。比如现在新创建一个文件叫做start.py，然后在这个文件中填入以下代码：
from scrapy import cmdline
cmdline.execute("scrapy crawl qsbk".split())
爬取结果
