产品简介
taskctl是一款由成都塔斯克信息技术公司历经10年研发的etl作业集群调度工具，该产品概念新颖，体系完整、功能全面、使用简单、操作流畅，它不仅有完整的调度核心、灵活的扩展，同时具备完整的应用体系。目前已获得金融，政府，制造，零售，健康，互联网等领域1000多家头部客户认可。
图片来自网络2020年疫情席卷全球，更是对整个市场经济造成了严重影响，导致很多中小型企业业务链受阻，大型企业经费资金吃紧，轮班制导致公司运维人员工作量大幅增加；塔斯克信息技术公司经领导研究决定为了履行社会责任，积极回报社会，帮助在此疫情期间受影响的企业减少运维资金支出、提升工作效率、保证后台数据安全，工作需求场景能够应用到的ETL批量作业调度工具的，将在此疫情期间让你白嫖免费使用价值总额约10万级的TASKCTL
图片来自官网领取方式：vx搜索并关注公众号"taskctl" 回复关键字 "领取" 即可授权
为什么需要调度系统？
我们都知道大数据的计算、分析和处理，一般由多个任务单元组成（Hive、Sparksql、Spark、Shell等），每个任务单元完成特定的数据处理逻辑。
多个任务单元之间往往有着强依赖关系，上游任务执行并成功，下游任务才可以执行。比如上游任务结束后拿到 A 结果，下游任务需结合 A 结果才能产出 B 结果，因此下游任务的开始一定是在上游任务成功运行拿到结果之后才可以开始。
而为了保证数据处理结果的准确性，就必须要求这些任务按照上下游依赖关系有序、高效的执行。一个较为基础的处理方式是，预估出每个任务处理所需时间，根据先后顺序，计算出每个任务的执行的起止时间，通过定时跑任务的方式，让整个系统保持稳定的运行。
一个完整的数据分析任务最少执行一次，在数据量较少，依赖关系较为简单的低频数据处理过程中，这种调度方式完全可以满足需求。然而在企业级场景中，更多的是需要每天执行，如果任务数量较多，在任务启动的时间计算上就将耗费大量时间，另外如果出现上游任务执行时长超出原定预计时间或者运行异常的问题，上述的处理方式将完全无法应对，也会对人力物力造成重复损耗，因此，对于企业数据开发过程来说，一个完整且高效的工作流调度系统将起到至关重要的作用。
自动化运维的好处
努力解决企业IT日益增长的运维挑战，大多数运维团队面临的最核心问题在于——如何用更少的资源完成更多工作。
自动化运维则是这一问题的理想解决方案，特别是在人力有限的情况下。总结来说，利用自动化简化IT运维有以下好处：
降低成本- 没有一家公司是不想降低成本的，而自动化运维可以通过提高效率、减少人为错误和人力需求，降低企业IT成本。
提高生产力- 自动化运维几乎不需要手动工作，这也就意味着它不仅可以提高产出，还可以将运维人员从复杂的传统运维工作中释放出来，将其知识和技能应用于更有价值的工作和任务上。此外，通过减少周转时间，每天可处理工作量也提高了。
高可用- 系统宕机可能会使企业损失惨重，无论是金钱上，还是声誉上。运维优先要保障的便是高可用，这也是自动化运维的一大目标。例如通过自动化保存和恢复机制，全天候系统监控和远程通信，以大幅降低网络停机时间；或是快速恢复，减少故障带来的损失。
更可靠- 运维常常包括一些重复的但完全必要的工作，这也就是为什么它容易出错。当人为因素从这个过程中消除时，那些昂贵的人为错误也自然消失了，这对于具有多个操作系统的大型网络尤其有用。自动化运维可以明显提高可靠性，减轻运维人员繁琐的手动任务。
性能优化- 运维专家面临的另一个问题是，让执行任务和工作流程变得更快、更高效、具备更高工作负载。传统运维方式想要满足这些需求是很困难的，而自动化运维工具则可以填补此类需求，在无需雇佣更多员工的情况下，最大限度地提高性能。
图片来自网络调度工具对比
Oozie
Oozie：训象人（调度mapreduce）。一个基于工作流引擎的开源框架，Oozie需要部署到java servlet中运行，主要用于定时调度，多任务之间按照执行的逻辑顺序调度。
它有如下功能特点：
1.统一调度hadoop系统常见的mr任务启动，hdfs操作，shell调度，hive操作等；
2.让复杂的依赖关系，时间触发，事件触发使用xml语言进行表达，开发效率增高（这个不一定，个人很讨厌xml，我觉得效率不高…）；
3.一组任务使用一个DAG表示，使用图形表达，流程清晰；
4.支持多种任务调度，能完成大部分的hadoop任务；
5.程序定义支持EL常量和函数，表达丰富；
6.Oozie规定在完成工作后发送电子邮件通知；
7.Azkaban使用Web操作。Oozie支持Web，RestApi，Java API操作；
Azkaban
Azkaban是由Linkedin开源的一个批量工作流任务调度器。用于在一个工作流内以一个特定的顺序运行一组工作和流程。Azkaban定义了一种KV文件格式来建立任务之间的依赖关系，并提供一个易于使用的web用户界面维护和跟踪你的工作流。
1.Web用户界面
2.方便上传工作流
3.方便设置任务之间的关系
4.调度工作流
5.认证/授权(权限的工作)
6.能够杀死并重新启动工作流
7.模块化和可插拔的插件机制
8.项目工作区
9.工作流和任务的日志记录和审计
taskctl
是一款功能全面的作业自动化调度技术管理工具。通过TASKCTL，可以快速将这些作业组织起来，并进行有效的管理以及各种参数化运行控制。在业界，普遍将这种技术称为作业调度，其技术本质是作业运行管理的自动化控制。
基于成都塔斯克旗下产品taskctl部署面向于个人、企业主和独立数据应用开发商提供的一个一站式大数据工具平台和社区。基础套餐永久免费！透过taskctl，个人和企业无需过多关注大数据底层存储和计算引擎的复杂的安装、繁琐的配置和日常运维，即可将自有的多来源业务系统数据进行集成和开发，形成数据资产，并赋能于自有作业场景，在云端轻松构建自有数据中台。
taskctl调度功能如下：
1.完成20多种数据源的适配调度：Mysql、Oracle、Hive、HBase、Redis、MongoDB、ODPS、Postgresql、ElasticSearch、WebService、GBase等；
2.模块化和可插拔的插件机制：屏蔽各种应用平台技术差异，适配统一的执行、停止及状态日志查询访问接口
3.支持可视化工作流配置：支持图形拖拽、自动化最小交叉排版，清楚地展示了作业节点之间的串并关系；不同类型作业图标自定义、正执行作业节点快速定位；
4.支持任务告警：邮件，短信，微信，钉钉等多渠道订阅，平台消息，流程消息、作业消息多层次推送。
5.人工干预多样化：正常调度，自由调度，虚拟调度。强制中断、强制通过、禁用通过、预设断点、忽略条件等；
6.支持作业优先级配置：平台级、流程级和作业级并行控制、资源权重设置。动态设置作业优先级置顶等操作。
7.支持工作流与工作流之间组装：支持各种层级的调度元信息架构组织，如：工程à工作流（可嵌套）à模块（可嵌套）à作业
8.支持工作流测试运行：支持流程开发完整体系，如编码à编译à调试à 版本发布à运行一整套完整的生命周期管理。
9.出错任务快速定位：提供了“正执行、异常”等状态的作业节点自动跟踪定位功能。
图片来自官网总结
Apache Oozie 是一个重量级的任务调度系统，功能全面，但是部署及配置会比较麻烦，从 crontab 到 Oozie 上手会有一定难度。Azkaban 是介于 oozie 和 Crontab 之间的工具，但是安全性上不如 Oozie，同时如果出现失败情况，Azkaban会丢失所有的工作流，Oozie则可以继续运行。taskctl相较于以上两种工具而言，解决了配置及部署复杂的问题，易于扩展的同时，也在工作流中有了更多方便开发及运维的其他功能。
写在最后
当然taskctl不仅仅是一个功能全面的工作流调度工具，作为一个一站式大数据平台，它同时涵盖以下功能，无论是简单的 ETL 工作，还是复杂的数据中台构建工作，使用taskctl都可以完成。
备注：需要的伙伴们请私信我，看到后我会一一回复
