学习爬虫之Scrapy框架学习(六)–1.直接使用scrapy;使用scrapy管道;使用scrapy的媒体管道类进行猫咪图片存储。媒体管道类学习。自建媒体管道类存储图片

2022-09-13 10:16:42 浏览数 (1)

大家好,又见面了,我是你们的朋友全栈君。

1.引入:

先来看个小案例:使用scrapy爬取百度图片。( 目标百度图片URL: https://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&sf=1&fmq=&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&fm=index&pos=history&word=猫咪)

(1)不使用管道,直接存储本地:

1.创建scrapy项目及爬虫文件
代码语言:javascript复制
''' 终端依此输入: 1.scrapy startproject baiduimgs 2.cd baiduimgs 3.scrapy genspider bdimg www '''
2.编写爬虫文件:
代码语言:javascript复制

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/160388.html原文链接:https://javaforall.cn

0 人点赞