最新 最热

大数据那些事(25):你还爱我吗之Stinger的努力

新年新气象,给大家拜年。更新一篇等大家的红包。上期我们讲了Impala,这个Hadoop批发商Cloudera推出来的有若干年头的,但却没有从Apache毕业的Hadoop上的数据查询分析系统。在这场战争里,当然不仅仅是Cloudera在战斗。今天...

2018-04-08
0

YARN & Mesos,论集群资源管理所面临的挑战

在国内,大部分的Spark用户都是由Hadoop过渡而来,因此YARN也成了大多Spark应用的底层资源调度保障。而随着Spark应用的逐渐加深,各种问题也随之暴露出来,比如资源调度的粒度问题。为此,7月2日晚,在CSDN Spark高端微信群中,一...

2018-04-04
0

3.4 Spark通信机制

3.4 Spark通信机制前面介绍过,Spark的部署模式可以分为local、standalone、Mesos、YARN等。本节以Spark部署在standalone模式下为例,介绍Spark的通信机制(其他模式类似)。3.4.1 分布式通信方式先介绍分布式通信的几种基本...

2018-04-04
0

spark on yarn的技术挑战

目前spark是一个非常流行的内存计算(或者迭代式计算,DAG计算)框架,在MapReduce因效率低下而被广为诟病的今天,spark的出现不禁让大家眼前一亮。从架构和应用角度上看,spark是一个仅包含计算逻辑的开发库(尽管它提供个独立运...

2018-04-04
0

Mac在Hadoop的yarn上运行mapreduce报错ExitCodeException exitCode=127:

hadoop 2.7.217/04/14 14:07:00 INFO mapreduce.Job: Job job_1492146520853_0005 running in uber mode : false17/04/14 14:07:00 INFO mapreduce.Job: map 0% reduce...

2018-04-04
0

Hadoop如何使用Zookeeper来保障高可用?

问题描述Hadoop 中有一个分布式调度框架 YARN,是很基础的重要框架,用来支持多种计算模型和进行资源调度。先看下 YARN 的架构图不需要了解这个架构的细节,只需要看到其中的一个重点:中...

2018-04-04
0

2017年前端开发技术栈

这篇文章将会介绍过去几年 JavaScript 开发方面的革命性发展。最近几年,应用开发的方法论发生了翻天覆地的变化。随着微服务架构、云计算、单页应用和响应式设计的兴起和发展,在保证项目开发进度、用...

2018-04-03
0

更换包管理工具npm为yarn

官网:https://yarnpkg.com/zh-Hans/主要考虑:1. npm管理安装模块依赖的版本不太方便,容易在删除node_modules重新install或在其他机器上新安装时, 安装模块的依赖的版本不一致,导致编译后的模块ID或trunkID不一致。 ya...

2018-04-03
0

技术 | 人生苦短,请用Python——10大Python库汇总

前言对于码农来说,主要关注2017年新推出了哪些开源库,还有就是新近有什么流行的既能解决问题又好用的利器。下面就来为2017年做个总结。1、Pipenv第一名非它莫属,这个工具年初才发布,但它已经能够影响每个Python开发者的...

2018-04-03
0

一文看懂npm、yarn、pnpm之间的区别

原文:Understanding differences between npm, yarn and pnpm作者:Alex Kras翻译:雁惊寒本文作者对比了当前主流的包管理工具npm、yarn、pnpm之间的区别,并提出了合适的使用建议,以下为译文:NPMnpm是Node.js能够如此成功的...

2018-04-03
0