Python使用多进程提高网络爬虫的爬取速度

2019-12-13 15:58:38 浏览数 (2)

多线程技术并不能充分利用硬件资源和大幅度提高系统吞吐量,类似需求应使用多进程编程技术满足。

以爬取中国工程院院士简介和照片为例,参考代码如下,请自行分析目标网页结构并与参考代码进行比对。另外需要注意,该程序最好在cmd命令提示符环境执行。

声明:爬虫系列文章仅供技术研究,如果用于恶意目的,引起的后果由使用者自己承担。

0 人点赞