爬取python书籍一百页

2019-09-23 10:15:08 浏览数 (1)

概要:利用selenium库爬取京东python书籍一百页存入csv

如果不知道selenium的基本操作,这里献上链接:selenium的使用(有点意思)

1、分析页面。

我们以前利用requests库等获取获取很麻烦。

利用selenium库可以省很多事情,我们只需要获取点击到下一页,

爬取我们需要的商品信息,存入csv。

所以我们要写三个方法来实现。

2、实现获取商品信息get_products方法。

我们需要抓取,编号,书名,价格,评价数量,出版社,

我们打开京东页面,切换到开发者模式,如图:

  1. 所有的商品都有一个类名:gl-item
  2. data-sku为一个编号,后面的class名需要用到。
  3. 价格的class是J_加上编号
  4. 评价数的id是J_comment_加上编号
  5. 书名的class是p-name
  6. 出版社的class是curr-shop

于是乎我们可以实现get_products获取商品的信息:

3、实现点击下一页

4、存入csv

存数据链接:数据的存储(一)

5、完咯

0 人点赞