温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。
Fayson的github: https://github.com/fayson/cdhproject
提示:代码块部分可以左右滑动查看噢
1
文档编写目的
前面Fayson写过《6.1-如何使用Cloudera Manager启用HDFS的HA》,YARN的HA架构和HDFS的HA类似,需要启动两个ResourceManager,这两个ResourceManager会向ZooKeeper集群注册,通过ZooKeeper管理它们的状态(Active和Standby)并进行自动故障转移。本篇文章主要讲述如何使用Cloudera Manager启用YARN的HA。
- 内容概述
1.启用YARN HA
2.YARN HA功能可用性测试
- 测试环境
1.CM和CDH版本为6.1
2.Redhat7.4
3.拥有Cloudera Manager的管理员账号
4.集群已启用Kerberos
2
启用YARN HA
1.使用管理员用户登录Cloudera Manager的Web管理界面,进入YARN服务
2.点击“启用High Avaiability”,选择ResourceManager主机
3.点击“继续”,启用ResourceManager HA
4.点击“完成”,查看YARN服务实例
可以看到YARN的ResourceManager实例为两个,一个是活动状态,一个是备用状态,至此已完成YARN HA的启用,那么接下来就测试下YARN HA功能的可用性。
3
Yarn HA功能可用性测试
1.ResourceManager服务状态
2.向集群提交一个WordCount作业
代码语言:javascript复制yarn jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar wordcount /fayson/hive-test /fayson/out
3.在作业运行期间,将Active状态的ResourceManager服务kill
4.ResourceManager实例的状态显示
5.WordCount作业正常完成
6.Yarn的8088显示作业成功
可以看到启用ResourceManager 的HA后,运行的MR作业不会因为ResourceManager其中一个服务挂掉而导致作业退出。
提示:代码块部分可以左右滑动查看噢
为天地立心,为生民立命,为往圣继绝学,为万世开太平。 温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。