日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程语言 > python >内容正文

python

Flink的scala+python的shell模式实验记录汇总

發布時間:2023/12/31 python 27 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Flink的scala+python的shell模式实验记录汇总 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

根據[1],FLINK的shell有以下一些運行模式

################################下面是scala-shell###########################################

scala模式需要啟動腳本啟動命令案例
local不需要$FLINK_HOME/bin/start-scala-shell.sh local[2]
remote$FLINK_HOME/bin/start-cluster.sh$FLINK_HOME/bin/start-scala-shell.sh remote Desktop 8082[4]

yarn

session cluster模式

$FLINK_HOME/bin/yarn-session.sh$FLINK_HOME/bin/start-scala-shell.sh yarn[3]

?

[5]中命令行提交任務有session和per-job兩種方式,注意,flink shell不存在per job模式,只存在上述的session模式

如果數據量不大的話,remote和local兩種模式的運行速度是最快的。

如果數據量比較大的話,那么yarn和remote兩種方式應該速度比local快,畢竟需要發揮集群的計算能力。

###############################下面是pyflink?shell#####################################

Python模式需要啟動腳本啟動命令案例
local不需要pyflink-shell.sh local[6]
remote$FLINK_HOME/bin/start-cluster.shpyflink-shell.sh remote Desktop 8082[7]

yarn

per-job cluster模式

不需要pyflink-shell.sh yarn?[8]

pyflink的local模式實驗記錄

######################################################################################

對兩種接口的區別進行小結:

scala flink? ? 的on yarn模式僅支持session cluster模式

python flink的on yarn模式僅支持per-job?cluster模式

?

注意:Pyflink的DataStream支持不完整,沒法生產環境使用。

######################################################################################

Reference:

[1]Apache Flink 客戶端操作

[2]flink shell的local模式(benv與senv的使用+處理報錯的解決方案)

[3]flink on yarn shell的session cluster模式實驗記錄

[4]真實集群下-flink shell的remote模式實驗記錄

[5]真實集群中Flink命令行各種模式提交wordcount

[6]pyflink的local模式實驗記錄

[7]pyflink shell的remote模式下的實驗記錄

[8]pyflink shell on yarn在per-job cluster模式下的實驗記錄

?

總結

以上是生活随笔為你收集整理的Flink的scala+python的shell模式实验记录汇总的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。