Scrapy终端是一个交互终端，我们可以在未启动spider的情况下尝试及调试代码，也可以用来测试XPath或CSS表达式，查看他们的工作方式，方便我们爬取的网页中提取的数据。...

Spider类定义了如何爬取某个(或某些)网站。包括了爬取的动作(例如:是否跟进链接)以及如何从网页的内容中提取结构化数据(爬取item)。 换句话说，Spider就是您定义爬取的动作及分析某个网页(或者是有些网页)的地方。...

上一个案例中，我们通过正则表达式，制作了新的url作为Request请求参数，现在我们可以换个花样...

RequestRequest 部分源码：# 部分代码class Request(object_ref): def __init__(self, url, callback=None, method='GET', headers=None, body=None, coo...

Some websites implement certain measures to prevent bots from crawling them, with varying degrees of sophistication. Getting around those measures can be diffic...

scrapy 自带的重试中间件只支持请求重试，解析函数内异常或者数据入库异常不会重试，但爬虫在请求数据时，往往会有一些意想不到的页面返回来，若我们解析异常了，这条任务岂不是丢了。...

他在一个 Scrapy 项目里面，有两个爬虫 A 和 B，他使用命令scrapy crawl B想启动 B 爬虫，但是发现 A 爬虫也自动运行了。

正所谓条条道路通罗马，上次我们使用了Selenium自动化工具来爬取网易云的音乐评论，Selenium自动化工具可以驱动浏览器执行特定的动作，获得浏览器当前呈现的页面的源代码，做到可见即可爬，但需要等网页完全加载完，也就是JavaSc...

今天带大家实践一把爬取整站小说，当然只是出于学习目的，大家千万不要应用于商业应用，因为可能出现侵权问题。本教程默认大家已经安装了scrapy，并且熟悉python语法。我们将逐步解析网站，然后将小说爬取保存到本地。...

3、打开https://www.lfd.uci.edu/~gohlke/pythonlibs/，找到twisted和lxml两个whl文件，下载下来。