任务调度:分布式调度引擎-DAGScheduleX简介
生活随笔
收集整理的這篇文章主要介紹了
任务调度:分布式调度引擎-DAGScheduleX简介
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
文章目錄
- 簡介
- 整體架構
- 工作流程
- 集群配置及租戶隔離
- 任務創建及提交
- 任務告警
- 總結
簡介
公交車伴隨著我們的日常生活已是隨處可見,不同路線的公交車根據各自的時間表有序發出,到達站點,接上站臺的乘客再緩緩駛向下一站……早高峰會有短區間的加班車,發車間隔也更短,夜半時分的班次則間隔更長。這一切都服從于公交總站的調度。
在大數據平臺中,也會有各式各樣的任務需要按照一定的時間間隔和先后順序有序進行,而管理這一切的就是調度引擎。它不僅要讓任務按時按點的執行,更要面對種種復雜的場景,例如:
10分鐘執行一次的周期任務執行了11分鐘,下一周期是否要直接開始計算
需要A任務執行完成后才執行的B任務,等待了一天還未等到A執行完畢,是否該繼續等待
十萬個任務同時被提交,該以怎樣的順序進行執行
問題種類繁多,如果沒有一個健壯智能的調度引擎,是無法像有序的公交車系統一樣支撐起一個大數據平臺的任務執行的。
在市場上存在許多的調度框架,比如:Quartz、Elastic-Job、XXL-JOB等,但是他們僅支持定時提交任務,就好比固定班次的公交車,雖然能按時到達站點,卻難以面對早晚的乘車高峰。這樣單一的調度方式是遠遠滿足不了“曲折離
總結
以上是生活随笔為你收集整理的任务调度:分布式调度引擎-DAGScheduleX简介的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: eclipse maven项目 clas
- 下一篇: 静态主席树总结(静态区间的k大)