公众号文章抓取工具python

2019-05-15 14:24:40 浏览数 (1)

概述

爬取微信公众号文章

爬取微信公众号有三种方法: 第一种:用搜狗微信公众号搜过,这个只能收到前10条; 第二种:用fiddler或手机抓包,从访问链接去获得appmsg_token,发现虽然这个值就在html页面里,但只有抓包的数据里含有效值,直接访问的是空的,而且还有时效性。这样,每次都要抓包获取,就很麻烦。 第三种:就是这种用公众号搜公众号的,虽然速度慢点,但便捷了不少。

功能

程序原理: 通过selenium登录获取token和cookie,再自动爬取和下载

使用前提: 1、电脑已装Firefox、Chrome、Opera、Edge等浏览器(默认使用火狐驱动) 2、下载selenium驱动放入python安装目录,将目录添加至环境变量(https://www.seleniumhq.org/download/) 3、申请一个微信公众号(https://mp.weixin.qq.com)

使用

更新记录:

  1. 下载文章文字内容到txt
  2. 下载文章图片
  3. 保存HTML文件,并将图片链接指向本地
  4. 添加按时间范围下载
  5. 添加cookie登陆,不成功才selenium浏览器登陆
  6. 增加记住密码功能
  7. 修复一些问题,如requests卡死
  8. 添加按关键词下载

下载

https://gitee.com/songxf1024/WeChat_Article.git

截图

0 人点赞