日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Spark作业提交流程

發布時間:2023/12/16 编程问答 30 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Spark作业提交流程 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

1.spark-submit 提交代碼,執行 new SparkContext(),在 SparkContext 里構
造 DAGScheduler 和 TaskScheduler。

2.TaskScheduler 會通過后臺的一個進程,連接 Master,向 Master 注冊 Application。
Master 接收到 Application 請求后,會使用相應的資源調度算法,在 Worker 上為這個
Application 啟動多個 Executer。

3.Executor 啟動后,會自己反向注冊到 TaskScheduler 中。 所有 Executor 都注冊到 Driver
上之后,SparkContext 結束初始化,接下來往下執行我們自己的代碼。

4.每執行到一個 Action,就會創建一個 Job。Job 會提交給 DAGScheduler。

5.DAGScheduler 會將 Job劃分為多個 stage,然后每個 stage 創建一個 TaskSet。

6.TaskScheduler 會把每一個 TaskSet 里的 Task,提交到 Executor 上執行。

7.Executor 上有線程池,每接收到一個 Task,就用 TaskRunner 封裝,然后從線程池里取出一
個線程執行這個 task。(TaskRunner 將我們編寫的代碼,拷貝,反序列化,執行 Task,每個 Task
執行 RDD 里的一個 partition)

總結

以上是生活随笔為你收集整理的Spark作业提交流程的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。