大家好,又见面了,我是你们的朋友全栈君。
Jstorm 环境搭建
有三种安装部署方式:standalone模式、yarn模式、docker模式,其中standalone模式最简单、轻量、稳定比较常用,整体规模不超过300台,yarn模式外部依赖较重,规模至少30台,docker比较消耗性能。
standalon模式安装步骤
搭建外部依赖
搭建jstorm之前需要先搭建外部依赖 1. zookeeper 2. jdk 版本>=1.7
搭建Jstorm集群
新版本2.4.0 环境: hd-23/hd-24/hd-25 用户/密码:jstorm/*
1. 检查环境 – 检查机器ip是否返回正确的ip地址
代码语言:javascript复制$ hostname -i #查看返回的ip是否是本机ip,如果现实127.0.0.1,则修改/etc/hosts或网卡配置
- 检查jdk是否安装以及版本是否高于1.7
$ java -version
2. 解压安装包,配置JStorm_Home
代码语言:javascript复制unzip jstorm-2.4.0.zip
# 配置环境变量
$ vi ~/.bashrc
export JSTORM_HOME=/home/jstorm/jstorm-2.4.0
export PATH=$PATH:$JSTORM_HOME/bin
# 配置后编译文件.bashrc
$ source ~/source ~/.bashrc
# 查看是否编译成功
$ echo $JSTORM_HOME
3. 配置 storm.yaml
代码语言:javascript复制配置zookeeper相关的配置项
$ cd /home/jstorm/jstorm-2.4.0/conf/
$ vi storm.yaml
storm.zookeeper.servers:
- "hd-23"
- "hd-24"
- "hd-25"
storm.zookeeper.root: "/jstorm"
storm.local.dir: "/home/jstorm/jstorm-2.4.0/data"
jstorm.log.dir: "/home/jstorm/jstorm-2.4.0/logs"
java.library.path: "/usr/local/lib:/opt/local/lib:/usr/lib:/usr/local/lib/jdk1.8.0_77/lib"
supervisor.slots.ports:
- 6800
- 6801
- 6802
- 6803
说明:supervisor中的端口不能被占用,有几个端口就有几个worker ==注意: i.每一行配置开头必须有空格,否则报错 ii.zookeeper端口必须一致,默认2181 iii.不能写hostname只能写ip 否则报错==
4.在24.25服务器上重复上述操作。 ==必须保证storm.local.dir: “/home/jstorm/jstorm-2.4.0/data”初次安装时文件夹是空的,否则会出现缓存情况,导致supervisor的值与实际值不符==
5.安装WEB UI
代码语言:javascript复制mkdir ~/.jstorm
cp -f /home/jstorm/jstorm-2.4.0/conf/storm.yaml ~/.jstorm
#编辑文件,在末尾添加一下配置,此处也可以不配置。
ui.clusters:
- {
# 集群名称
name: "holly-jstorm",
#Zk根目录,与上文中的storm.zookeeper.root一致即可
zkRoot: "/jstorm",
zkServers:
[ "hd-23","hd-24","hd-25"],
zkPort: 2181,
}
tar -xzf apache-tomcat-7.0.37.tar.gz
cd apache-tomcat-7.0.37
cd webapps
cp $JSTORM_HOME/jstorm-ui-2.4.0.war ./
mv ROOT ROOT.old
ln -s jstorm-ui-2.4.0 ROOT
../bin./startup.sh
6. 启动jstorm
代码语言:javascript复制# 在主节点服务器上执行以下命令
$ cd jstorm-2.4.0
$ nohup bin/jstorm nimbus &
# 查看是否启动成功
$ jps
4346 Bootstrap
4602 NimbusServer
4716 Jps
# 出现NimbusServer,说明主节点已启动
#也可以查看日志
$ tail -f logs/nimbus.log
# 去其他节点执行以下命令
$ cd cd jstorm-2.4.0
$ nohup bin/jstorm supervisor &
$ jps
24231 Supervisor
24297 Jps
# 出现Supervisor,说明启动成功
#也可以查看日志
$ tail -f logs/supervisor.log
7. 访问web ui 界面查看jtorm信息
http://hd-23:8087/
==注意:如果页面上supervisor 的数量与实际启动的值不符,则需要将data中的文件清除,重启==
提交jar
代码语言:javascript复制提交jar命令
$ jstorm jar xxx.jar xxx.java params
# xxx.jar jar名称
# xxx.java 主类入口
# params 参数(配置文件名称)
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/234216.html原文链接:https://javaforall.cn