kettle调度监控平台（kettle-scheduler）开源[通俗易懂]

背景

Kettle作为用户规模最多的开源ETL工具，强大简洁的功能深受广大ETL从业者的欢迎。但kettle本身的调度监控功能却非常弱。Pentaho官方都建议采用crontab(Unix平台)和计划任务(Windows平台)来完成调度功能。所以大家在实施kettle作业调度功能的时候，通常采用以下几种方式：使用spoon程序来启动Job，使用crontab或计划任务，自主开发java程序来调用kettle的类库。

项目介绍

Kettle调度监控平台（以下简称KS）是一个自主开发的javaweb程序，专门用来调度和监控由kettle客户端创建的job和transformation。KS整体的框架是由spring sprin gmvc beetlsql整合而成，通过调用kettle的API来执行转换和作业，并且使用quartz框架完成调度工作。

此版本基于kettle-8.0.0.0-28版本的API开发的，目前可以基本支持所有的组件，包括大数据组件（hbase、hive、hdfs等）。

项目源码：GitHub – zhaxiaodong9860/kettle-scheduler: 一款简单易用的Kettle调度监控平台，专门用来调度和监控由kettle客户端创建的job和transformation。整体的框架是由spring sprin gmvc beetlsql整合而成，通过调用kettle的API来执行转换和作业，并且使用quartz框架完成调度工作。（不要忘了给个star哦）

发布版本：百度网盘请输入提取码提取码提取码: 52r8

kettle8.0工具下载地址：点击下载

部署

1.基础环境

操作系统：windows（linux类似）

预装软件：jdk1.8、mysql、tomcat、kettle8.0

2.将源码中kettle-scheduler.sql导入mysql数据库。

3.将源码编译打包后解压到tomcat下的webapps目录下。

4.配置kmWEB-INFclassesresourcedb.properties

代码语言：javascript复制

jdbc.driver=com.mysql.jdbc.Driver   //mysql驱动
jdbc.url=jdbc:mysql://192.22.107.97:3306/kettle-master?serverTimezone=UTC&characterEncoding=utf8&useUnicode=true&useSSL=false   //mysql的jdbc url
jdbc.username=root  //mysql用户名
jdbc.password=123456   //mysql密码

5.配置kmWEB-INFclassesresource kettle.properties

代码语言：javascript复制

# Kettle Properties  
#绝对路径，用于初始化kettle环境变量（.kettle/kettle.properties所在路径）,指向kettle根目录（例如 D:data-integration）
kettle.home=D:\data-integration
#绝对路径kettle下plugins文件
kettle.plugin=E:\zhaxiaodong\apache-tomcat-9.0.12\bin\plugins
#相对路径，不需要改，暂时没有查出有什么用
kettle.script=Html\js\libs\url
#日志级别
kettle.loglevel=detail
#kettle日志存放路径
kettle.log.file.path=D:\data-integration\logs
#保存上传文件转换(.ktr)或作业(.kjb)的路径,此功能未调试,暂时停用,待开发
kettle.file.repository=D:\data-integration\test

6.需要用到大数据组件的：将data-integration目录下的simple-jndi、system和plugins文件夹拷贝到apache-tomcat-9.0.12bin目录下

不需要用到大数据组件的：将kettle-scheduler/src/main/resources目录下kettle-lifecycle-listeners.xml和kettle-registry-extensions.xml删除。

7.启动tomcat

Windows:apache-tomcat-9.0.12binstartup.bat;

Linux: apache-tomcat-9.0.12binstartup.sh;

8.访问http://localhost:8080/km进入系统。注意：km为解压到tomcat/webapps下的项目的文件夹名称，一般源码编译后为kettle-scheduler，即可访问http://localhost:8080/kettle-scheduler。localhost为部署的服务器IP。