Apache DolphinScheduler(工作流任务调度系统)
DolphinScheduler官方版是专业的可视化工作流任务调度系统。处理工作调度,有效解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。支持多租户,更好的应对大数据的使用场景。支持任务日志在线查看及滚动、在线下载日志等,非常实用。
软件特色
高可靠性
去中心化的多Master和多Worker, 自身支持HA功能, 采用任务队列来避免过载,不会造成机器卡死。
简单易用
DAG监控界面,所有流程定义都是可视化,通过拖拽任务定制DAG,通过API方式与第三方系统对接, 一键部署。
丰富的使用场景
支持暂停恢复操作。 支持多租户,更好的应对大数据的使用场景。 支持更多的任务类型,如 spark, hive, mr, python, sub_process, shell。
高扩展性
支持自定义任务类型,调度器使用分布式调度,调度能力随集群线性增长,Master和Worker支持动态上下线。
功能介绍
1、以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态。
2、支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等。
3、支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作。
4、支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败。
5、支持工作流全局参数及节点自定义参数设置。
6、支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑。
7、支持任务日志在线查看及滚动、在线下载日志等。
8、实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化。
9、支持对Master/Worker cpu load,memory,cpu在线查看。
10、支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计。
11、支持补数。
12、支持多租户。
13、支持国际化。
14、还有更多等待伙伴们探索。
-
Apache DolphinScheduler如何部署?
1. 分布式易扩展的可视化工作流任务调度平台Apache DolphinScheduler是一个分布式去中心化,易扩展的可视化DAG工作流任务调度平台。致力于解决数据处理流程中错综复杂的依赖关系,使调
-
Apache DolphinScheduler和Apache Airflow任务调度系统对比
目前世界上最流行的两款任务调度系统是 Apache DolphinScheduler 和 Apache Airflow。什么是任务调度系统呢?它类似于平时工作与生活中使用的日程表,可以让某一类型的任务
-
Apache DolphinScheduler分布式工作流任务调度系统
Apache DolphinScheduler(Incubator, 原 Easy Scheduler) 是一个可视化的分布式大数据工作流任务调度系统,DolphinScheduler 致力于 “可视
关注公众号:拾黑(shiheibook)了解更多
赞助链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
- 微软推出Edge浏览器v128.0正式版:不再支持上古CPU
- 港币对人民币汇率2023年8月24日
- 虎牙“播”不动了?
- WPS删除用户本地文件引争议,官方:纯属误导
- 骗过马斯克本尊的“中国马斯克”被扒真容!暴露了AI换脸的“阴暗面”
- 为了让员工更爱上班,这家公司卖掉了自己的办公楼
- 流氓应用最大元凶!一步步教你彻底清除开屏广告
- 【杂谈快报】中国移动8月份新增5G用户2453.7万 累计总数破3亿
- 美国智库为跨大西洋美欧联盟对华战略竞争炮制蓝图
- HomePod 停产;奔驰在中国召回 260 万辆汽车;微信安全团队发布个人账号专项治理公告|Do早报
- 抖音起诉腾讯垄断,让我们想起了当年的3Q大战
- 市场需求高涨,这种传感器“火”了