日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

spark 2.4安装

發布時間:2023/12/10 编程问答 30 豆豆
生活随笔 收集整理的這篇文章主要介紹了 spark 2.4安装 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
1、spark 官網選擇對應Hadoop的版本,之前安裝的Hadoop版本為hadoop-3.0.2,獲取下載包: wget http://mirrors.hust.edu.cn/apache/spark/spark-2.4.0/spark-2.4.0-bin-hadoop2.7.tgz 2、解壓縮安裝包,創建軟連接: tar -zxvf spark-2.4.0-bin-hadoop2.7.tgz ln -s spark-2.4.0-bin-hadoop2.7 spark 3、配置spark,進入conf目錄: 1)、配置spark-env.sh 文件 先拷貝:cp spark-env.sh.template spark-env.sh 文件增加內容如下: export JAVA_HOME=/usr/local/src/jdk1.8.0_191 #Java環境變量 export SCALA_HOME=/usr/local/src/scala/scala-2.12.7 #SCALA環境變量 export SPARK_WORKING_MEMORY=521m #每一個worker節點上可用的最大內存 export SPARK_MASTER_IP=master #驅動器節點IP export HADOOP_HOME=/usr/local/src/hadoop-3.0.2 #Hadoop路徑 export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop #Hadoop配置目錄 2)、配置slave主機 先拷貝:cp slaves.template slaves 文件中增加slave節點名稱: slave1 slave2 3)、將spark 目錄發送給salve1和slave2 scp -r spark root@slave1:/usr/local/src/ scp -r spark root@slave2:/usr/local/src/ 4)、啟動spark cd sbin目錄,執行./start-all.sh 5)、節點啟動了worker進程

轉載于:https://www.cnblogs.com/lihao7/p/10092846.html

總結

以上是生活随笔為你收集整理的spark 2.4安装的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。