日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Hadoop集群规划

發布時間:2024/9/16 编程问答 46 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Hadoop集群规划 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

hadoop集群規劃

HDFS中有NN和DN
YARN中有RM和NM
假設有三臺機器:

hadoop000 192.168.199.234 部署:NN DN RM NM hadoop001 192.168.199.235 部署:DN NM hadoop002 192.168.199.236 部署:DN NM
  • 首先在每臺機器中修改/etc/hostname對應的hadoop000 hadoop001 hadoop002
  • 修改hostname與ip的對應關系。修改/etc/hosts
  • 192.168.199.234 hadoop000 192.168.199.235 hadoop001 192.168.199.236 hadoop002 192.168.199.236 localhost
  • 每臺機器安裝ssh,并且設置免密碼登錄
    在hadoop00中進行操作:
  • ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop000 ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop001 ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop002
  • 每個節點上安裝jdk
  • 安裝hadoop
    配置hadoop-env.sh中的java_home。
    配置core-site.xml,內容如下:
  • <property><name>fs.default.name</name><value>hdfs://hadoop000:9000</value> </property>

    配置hdfs-site.xml,內容如下:

    <property><name>hadoop.tmp.dir</name><value>/home/hadoop/app/tmp/hadoop-tmp</value> </property> <property><name>dfs.namenode.name.dir</name><value>/home/hadoop/app/tmp/dfs/name</value> </property> <property><name>dfs.datanode.data.dir</name><value>/home/hadoop/app/tmp/dfs/data</value> </property>

    配置yarn-site.xml,內容如下:

    <property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value> </property><property><name>yarn.resourcemanager.hostname</name><value>hadoop000</value> </property>

    配置mapred-site.xml,內容如下:

    <property><name>mapreduce.framework.name</name><value>yarn</value> </property>
  • 在slaves文件中,修改內容如下:
  • hadoop000 hadoop001 hadoop002
  • 分發hadoop目錄到其他機器
  • NN格式化:hadoop namenode -format
  • 啟動HDFS
  • 啟動YARN
  • 總結

    以上是生活随笔為你收集整理的Hadoop集群规划的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。