Zookeeper安装
经过这几天的学习,对大数据有了一定的了解。这次在我自己的本机上安装了zookeeper、HDFS、HBase集群。并把安装时的过程记录了下来。
代码语言:javascript复制#1.创建用户
groupadd ngboss
useradd -d /home/zk -g ngboss zk
useradd -d /home/hdfs -g ngboss hdfs
useradd -d /home/hbase -g ngboss hbase
#2.root下添加hosts信息
vi /etc/hosts
192.168.71.132 centos7-node01
192.168.71.131 centos7-node02
192.168.71.133 centos7-node03
#3.拓展
IPv4的IP是32bit的,/xx 表示从右往左多少位是掩码(不变的),余下的是可变的
192.168.0.0/16 表示 192.168.0.0 -> 192.168.255.255
192.168.0.0/16 表示 192.168.0.0 -> 192.168.255.255
192.168.0.0/24 表示 192.168.0.0 -> 192.168.0.255
#4.jdk配置
vi ~/.bash_profile
# .bash_profile
# Get the aliases and functions
if [ -f ~/.bashrc ]; then
. ~/.bashrc
fi
# -------------------------------------
# | J2EE'S PROFILE, DON'T MODIFY! |
# -------------------------------------
alias grep='grep --colour=auto'
alias vi='vim'
alias ll='ls -l'
alias ls='ls --color=auto'
alias mv='mv -i'
alias rm='rm -i'
export PS1="[ 33[01;32m]u@h[ 33[01;34m] w $[ 33[00m] "
export TERM=linux
export EDITOR=vim
export PATH=${HOME}/bin:${HOME}/support/jdk/bin:${HOME}/support/ant/bin:${HOME}/support/python/bin:$PATH
export LANG=zh_CN.utf8
export PYTHONUNBUFFERED=1
export TIMOUT=3000
export HISTSIZE=1000
#5.验证jdk安装是否成功
. ~/.bash_profile
which java
#6.zoo.cfg文件配置
vi ~/etc/zoo.cfg
server.1=192.168.71.131:28880:38880
server.2=192.168.71.132:28880:38880
server.3=192.168.71.133:28880:38880
#7.acl.conf文件配置
vi ~/etc/acl.conf
192.18.0.0/16
#8.myid文件配置
vi ~/data/myid
#9.zk启动
zk@hadoop-node02 ~/bin $ ./zkServer.sh start
#10.端口验证
netstat -tnlp | grep 2181
#11.结构
zk@centos7-node01 ~ $ ls
bin data etc lib logs sbin support
Hdfs安装
代码语言:javascript复制#1.解压hdfs和jdk
...
#2.生成密匙
ssh-keygen -t rsa
#3.拷贝公匙到其他主机
ssh-copy-id -i hdfs@192.168.71.131
#4.给用户创建密码
echo '1q1w1e1r' | passwd --stdin hdfs
#5.修改slaves文件
修改:vi /home/hdfs/etc/hadoop/slaves
centos7-node02
centos7-node03
#6.修改core-site.xml
修改:/home/hdfs/etc/hadoop/core-site.xml
hdfs:// 这一行改成第一台主机的IP,端口啥的都不变
#7.修改hdfs-site.xml
vi /home/hdfs/etc/hadoop/hdfs-site.xml
<property>
<name>dfs.name.dir</name>
<value>/home/hdfs/data/name</value>
</property>
<property>
<name>dfs.data.dir</name>
<value>/home/hdfs/data/data</value>
....
#8.初始化hdfs:
cd /home/hdfs/bin
./hadoop namenode -format
#9.启动hdfs
cd ~/sbin
./start-dfs.sh
#10.hdfs目录
hdfs@centos7-node03 ~ $ ls
bin data etc include lib libexec logs sbin share support temp
HBase安装
代码语言:javascript复制#1.解压hbase和jdk
#2.创建公匙
拷贝公匙到其他主机
#3.创建logs目录
只要logs目录,没有data目录,hbase的数据存到hdfs上去了
#4.在hdfs第一台服务器上执行以下命令
hdfs@centos7-node01 ~ $ cd /home/hdfs/bin
hdfs@centos7-node01 ~/bin $ ./hadoop fs -mkdir /hbase
hdfs@centos7-node01 ~/bin $ ./hadoop fs -chmod 777 /hbase
hdfs@centos7-node01 ~/bin $ ./hadoop fs -ls /
Found 1 items
drwxrwxrwx - hdfs supergroup 0 2018-02-01 00:14 /hbase
#5.配置 hbase,vi /home/hbase/conf/hbase-site.xml
<value>centos7-node01,centos7-node02,centos7-node03</value>
#6.配置regionservers文件
hbase@centos7-node01 ~/bin $ vi ~/conf/regionservers
centos7-node02
centos7-node03
find . -type f | xargs grep 'bst'
#7.启动hbase
cd bin
./start-hbase.sh
就写到这里了,上面就是我搭建Zookeeper,Hbase,hdfs的全过程了。