日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

1.17.Flink 并行度详解(Parallel)、TaskManager与Slot、Operator Level、Execution Environment Level、Client Level等

發布時間:2024/9/27 编程问答 37 豆豆
生活随笔 收集整理的這篇文章主要介紹了 1.17.Flink 并行度详解(Parallel)、TaskManager与Slot、Operator Level、Execution Environment Level、Client Level等 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

1.17.Flink 并行度詳解(Parallel)
1.17.1.TaskManager與Slot
1.17.2.TaskManager與Slot
1.17.3.并行度(Parallel)
1.17.4.并行度(Parallel)的設置
1.17.4.1.并行度設置之Operator Level
1.17.4.2.并行度設置之Execution Environment Level
1.17.4.3.并行度設置之Client Level
1.17.4.4.并行度設置之System Level

1.17.Flink 并行度詳解(Parallel )

1.17.1.TaskManager與Slot

Flink的每個TaskManager為集群提供solt。 solt的數量通常與每個TaskManager節點的可用CPU內核數成比例。一般情況下你的slot數是你每個節點的cpu的核數。

1.17.2.TaskManager與Slot

1.17.3.并行度(Parallel)

一個Flink程序由多個任務組成(source、transformation和 sink)。 一個任務由多個并行的實例(線程)來執行, 一個任務的并行實例(線程)數目就被稱為該任務的并行度。

1.17.4.并行度(Parallel)的設置

?一個任務的并行度設置可以從多個層次指定
Operator Level(算子層次)
Execution Environment Level(執行環境層次)
Client Level(客戶端層次)
System Level(系統層次)

1.17.4.1.并行度設置之Operator Level

一個算子、數據源和sink的并行度可以通過調用 setParallelism()方法來指定

1.17.4.2.并行度設置之Execution Environment Level

?執行環境(任務)的默認并行度可以通過調用setParallelism()方法指定。為了以并行度3來執行所有的算子、數據源和data sink, 可以通過如下的方式設置執行環境的并行度:

  • ?執行環境的并行度可以通過顯式設置算子的并行度而被重寫。

1.17.4.3.并行度設置之Client Level

并行度可以在客戶端將job提交到Flink時設定。
對于CLI客戶端,可以通過-p參數指定并行度
./bin/flink run -p 10 WordCount-java.jar (這里使用-p 10)

1.17.4.4.并行度設置之System Level

在系統級可以通過設置flink-conf.yaml文件中的parallelism.default屬性來指定所有執行環境的默認并行度。

總結

以上是生活随笔為你收集整理的1.17.Flink 并行度详解(Parallel)、TaskManager与Slot、Operator Level、Execution Environment Level、Client Level等的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。