最新 最热

0820-CDSW在Session中运行代码超过一次就报错问题分析

在CDSW中启动一个Session然后运行代码,第一次能够正常运行,在第一次运行完成后不关闭Session,在同一个Session中再次运行代码,此时就会出现报错,主要的报错信息为“Delegation Token can be issued only with kerberos or ...

2020-12-14
1

大数据入门:Java和Scala编程对比

在学习大数据之初,很多人都会对编程语言的学习有疑问,比如说大数据编程主要用什么语言,在实际运用当中,大数据主流编程是Java,但是涉及到Spark、Kafka框架,还需要懂Scala。今天的大数据入门分享,我们就来对Java和Scala这两门...

2020-12-10
1

Spark学习笔记

RDD依赖什么是依赖关系通过构建依赖可以实现RDD容错子RDD依赖于父RDD为什么需要依赖因为Spark基于RDD进行并行计算RDD不可变可分区可进并行计算的集合通过划分在宽依赖和窄依赖可以在窄依赖的过程中可以实现RDD分区的...

2020-12-10
1

大数据入门:Spark RDD基础概念

在Spark框架的核心部分,SparkCore作为平台基础通用执行引擎,重要性自是不必多说。而在SparkCore当中,RDD作为SparkCore的核心抽象,是需要重点搞懂的概念。今天的大数据入门分享,我们就来讲讲Spark RDD入门基础。...

2020-12-09
1

升级Hive3处理语义和语法变更

由于在CDH或HDP中运行的Hive的早期版本与CDP中的Hive 3之间的语义变化,您需要执行许多与迁移相关的更改。Hive 3中与db.table引用和DROP CASCADE相关的一些语法更改可能需要对应用程序进行更改。...

2020-12-08
1

深入浅出Spark(三):Spark调度系统之“权力的游戏”

专题介绍:2009 年,Spark 诞生于加州大学伯克利分校的 AMP 实验室(the Algorithms, Machines and People lab),并于 2010 年开源。2013 年,Spark 捐献给阿帕奇软件基金会(Apache Software Foundation),并于 2014 年成为 Ap......

2020-12-07
1

腾讯资深技术官23天手撸笔记,全新演绎“Kafka部署实战”,已开源下载

我们知道,当下流行的MQ非常多,不过很多公司在技术选型上还是选择使用Kafka。与其他主流MQ进行对比,我们会发现Kafka最大的优点就是吞吐量高。实际上Kafka是高吞吐低延迟的高并发、高性能的消息中间件,配置良好的Kafka集群...

2020-12-03
1

011.分布式可视化DAG工作流任务调度系统DolphinScheduler-1.3.3安装部署

源码下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache/incubator/dolphinscheduler/ 我这里选择1.3.3版本的apache-dolphinscheduler-incubating-1.3.3-src.zip

2020-12-03
1

spark scala练习

spark scala练习准备一个文件上传至hdfshello wordhello javahello pythonhello c++​ 启动spark-shell spark-shell 获取到要计算的文件val file = spark.read.textFile("test.txt")统计该......

2020-12-01
1

大数据入门:Spark Streaming实际应用

作为Spark负责流计算的核心组件,Spark Streaming是整个Spark学习流程当中非常重要的一块。对于Spark Streaming,作为Spark流计算的实际承载组件,我们也需要更全面的掌握。今天的大数据入门分享,我们就来讲讲Spark Streami...

2020-11-30
1