最近一直在写课程,网上找资料,找到一个 Web Scraper 的工具教程,对于那些不想写爬虫代码又想获取信息的人来说,非常友好。
不过要提醒的是,Web Scraper 是一款专注于文本爬取的爬虫工具。也就是这个工具只能爬取文本类的信息,多媒体类的图片,视频爬取不了。
下面是博主列出的优点,缺点及简答的总结:
Web Scraper 的优点
- 轻量:非常的轻量。上手只需要一个 Chrome 浏览器和一个 Web Scraper 插件。对于一些限制安装第三方软件的公司电脑,可以很轻易的突破这层限制
- 提效:Web Scraper 支持绝大多数的网页的爬取,可以无侵入的加入你的日常工作流中
- 快:抓取速度取决于你的网速与浏览器加载速度,其他的数据采集软件可能有限速现象(充钱就能不限速)
Web Scraper 的缺点
- 只支持文本数据抓取:图片短视频等多媒体数据无法批量抓取
- 不支持范围抓取:例如一个网页有 1000 条数据,默认是全量抓取的,无法配置抓取范围。想停止抓取,只能断网模拟数据加载完毕的情况
- 不支持复杂网页抓取:对于那些加了复杂交互、酷炫的特效和反人类的反爬虫网页,Web Scraper 无能为力(其实这种网页写 python 爬虫也挺头疼)
- 导出数据乱序:想让数据正序就得用 Excel 或者用 CouchDB,相对复杂了一些
总结
掌握了 Web Scraper 的使用,基本上可以应付学习工作中 90% 的数据爬取需求。相对于 python 爬虫,虽然灵活度上受到了限制,但是低廉的学习成本可以大大节省学习时间,快速解决手头的工作,提高整体的工作效率。综合来看,Web Scraper 还是非常值得去学习的。
博主网址:
https://www.cnblogs.com/web-scraper/tag/简易数据分析/
互联网上总有一群默默耕耘的人,写了很多好的内容。而搜索引擎尽管非常发达,但是依然存在很大的信息差,并且会一直存在。
看到一本书上说,搜索引擎中可检索的网址占整个互联网不过一小部分,还存在很大一部分检索不到,也叫暗网,挖掘信息的能力真的非常重要,也非常有用,这个需要一直练习。
代码语言:javascript复制(全文完)