最新 最热

一、MongoDB的安装

Windows系统由于二进制包安装了半个小时,还是卡在进度条不动。因此决定使用压缩包进行安装。下载安装包下载地址下载完成后将其解压,例如我解压到了F:MongoDB文件下。接下来进入该文...

2020-07-13
1

大数据与云计算技术周报(第150期)

影响Hive效率的几乎从不是数据量过大,而是数据倾斜、数据冗余、job或I/O过多、MapReduce分配不合理等等。对Hive的调优既包含对HiveQL语句本身的优化,也包含Hive配置项和MR方面的调整。...

2020-07-10
1

三、MongoDB高级操作

测试:age添加索引情况语法:db.c1.createIndex({age: 1})继续:db.c1.find({age:18}).explain(‘executionStats’)

2020-07-09
1

Python Faker随机生成测试数据(干货)

Faker是一个Python软件包,可为您生成伪造数据。无论您是需要引导数据库,创建美观的XML文档,填充持久性以进行压力测试还是匿名化来自生产服务的数据,Faker都是您的理想之选。不论您这边需要创建多少条数据,无非是一个for循...

2020-07-07
1

MongoDB 统计 group 操作用不了,试试 mapReduce 吧

今天,同事小张 Q 我, 说自己辛苦花了一天的时间,基于 mongodb 数据库开发的待办统计功能一直报错!

2020-07-06
1

MongoDB 临时表横空出现 1 万+,这条语句执行前请准备好翻车的姿势

某日早上八点半,笔者接到客户反馈,门户首页待办访问异常缓慢,经常出现“访问异常,点击重试”。当时直觉告诉我,应该是大量用户高并发访问 MongoDB 库,导致 MongoDB 库连接池出问题了,因为上线发版时,功能是正常的。...

2020-07-06
1

安全渗透测试网站漏洞问题

前不久接到朋友的寻求帮助(前提必须要有授权许可,可不能乱渗透测试),就是说有个站搞不了了,让我看看能否协助整一下;恰好近期应急处置结束了在看系统日志,看的有点苦恼,因此便接下了这一工作,提升点快乐。...

2020-07-06
0

Python爬虫学习 爬取 “得到” App 电子书信息

“得到” App 是罗辑思维出品的一款碎片时间学习的 App,其官方网站为 https://www.igetget.com,App 内有很多学习资源。不过 “得到” App 没有对应的网页版,所以信息必须要通过 App 才可以获取。这次我们通过抓取其 App...

2020-07-02
1

Python爬虫学习 爬取微信朋友圈

如果直接用 Charles 或 mitmproxy 来监听微信朋友圈的接口数据,这是无法实现爬取的,因为数据都是被加密的。而 Appium 不同,Appium 作为一个自动化测试工具可以直接模拟 App 的操作并可以获取当前所见的内容。所以只要 A...

2020-07-02
1

Python爬虫学习 爬取京东商品

以抓取京东 App 的商品信息和评论为例,实现 Appium 和 mitmdump 二者结合的抓取。抓取的数据分为两部分:一部分是商品信息,我们需要获取商品的 ID、名称和图片,将它们组成一条商品数据;另一部分是商品的评论信息,我们将评论...

2020-07-02
1