2019獨角獸企業重金招聘Python工程師標準>>>

本實驗環境：云服務器CentOS 7.4

????????????????? ? JDK 1.8

????????????????? ? Hadoop 2.7.5

一、安裝和配置JDK

1.下載jdk

[root@localhost ~]#wget http://download.oracle.com/otn-pub/java/jdk/8u161-b12/2f38c3b165be4555a1fa6e98c45e0808/jdk-8u161-linux-x64.tar.gz?AuthParam=1520664270_b0eda8a9778a082600265e6b879ccc72[root@localhost ~]#tar xf jdk-8u161-linux-x64.tar.gz?AuthParam=1520664270_b0eda8a9778a082600265e6b879ccc72 -C /usr/local[root@localhost local]#cd /usr/local[root@localhost local]#ln -sv jdk1.8.0_161 jdk

2.配置環境變量

[root@localhost local]#vi /etc/profile

在etc/profile文件中添加以下內容

JAVA_HOME=/usr/local/jdkPATH=$JAVA_HOME/bin:$PATHexport JAVA_HOME PATH

保存后

[root@localhost local]#source /etc/profile?????????????? ?????? //讓配置文件生效

測試jdk是否安裝成功

[root@localhost local]#java -version

?

二、下載和安裝Hadoop?

1.下載Hadoop?

[root@localhost ~]#wget http://mirrors.hust.edu.cn/apache/hadoop/common/hadoop-2.7.5/hadoop-2.7.5.tar.gz[root@localhost ~]#mkdir/usr/local/hadoop[root@localhost ~]#tar xf hadoop-2.7.5.tar.gz -C /usr/local/hadoop[root@localhost ~]#mkdir/usr/local/hadoop/tmp[root@localhost ~]#mkdir/usr/local/hadoop/hdfs[root@localhost ~]#mkdir/usr/local/hadoop/hdfs/data[root@localhost ~]#mkdir/usr/local/hadoop/hdfs/name

2.配置環境變量

[root@localhost ~]#vi /etc/profile

在etc/profile文件中添加以下內容

# set hadoop path export HADOOP_HOME=/usr/hadoop/hadoop-2.7.5 export PATH=$PATH:$HADOOP_HOME/bin

保存后

[root@localhost local]#source /etc/profile?????????????? ?????? //讓配置文件生效

?

3，Hadoop配置?
進入/usr/local/hadoop/hadoop-2.7.5/etc/hadoop/目錄，配置以下六個配置文件如下：?

hadoop-env.sh? yarn-env.sh? core-site.xml? hdfs-site.xml? mapred-site.xml? yarn-site.xml

? （1）配置hadoop-env.sh

export JAVA_HOME=/usr/local/jdk

? （2）配置yarn-env.sh

export JAVA_HOME=/usr/local/jdk

? （3）配置core-site.xml?
????????????添加以下內容：

<configuration><property><name>fs.default.name</name><value>hdfs://localhost:9000</value><description>HDFS的URI，文件系統://namenode標識:端口號</description></property><property><name>hadoop.tmp.dir</name><value>/usr/local/hadoop/tmp</value><description>namenode上本地的hadoop臨時文件夾</description></property> </configuration>

? （4）配置hdfs-site.xml?
????????添加以下內容：

<configuration><property><name>dfs.name.dir</name><value>/usr/local/hadoop/hdfs/name</value><description>namenode上存儲hdfs名字空間元數據 </description> </property><property><name>dfs.data.dir</name><value>/usr/local/hadoop/hdfs/data</value><description>datanode上數據塊的物理存儲位置</description></property><property><name>dfs.replication</name><value>1</value><description>副本個數，配置默認是3,應小于datanode機器數量</description></property> </configuration>

? （5）配置mapred-site.xml?
? ? ? ? ? ? 添加以下內容：

<configuration><property><name>mapreduce.framework.name</name><value>yarn</value></property> </configuration>

? （6）配置yarn-site.xml?
? ? ? ? ? ? 添加以下內容：

<configuration><property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value></property><property><name>yarn.resourcemanager.webapp.address</name><value>localhost:8099</value></property> </configuration>

4，Hadoop啟動 （路徑：/usr/local/hadoop/）
1）格式化namenode

[root@localhost hadoop]#source hadoop-2.7.5/etc/hadoop/hadoop-env.sh [root@localhost hadoop]#hadoop namenode -format

2）啟動NameNode 和 DataNode 守護進程

[root@localhost hadoop]#./hadoop-2.7.5/sbin/start-dfs.sh

3）啟動ResourceManager 和 NodeManager 守護進程

[root@localhost hadoop]#./hadoop-2.7.5/sbin/start-yarn.sh

5，啟動驗證?
1）執行jps命令，有如下進程，說明Hadoop正常啟動

[root@localhost hadoop]# jps 20167 Jps 19387 NodeManager 2414 Bootstrap 17903 ResourceManager

轉載于:https://my.oschina.net/drathin/blog/1635253

總結

以上是生活随笔為你收集整理的安装和配置Hadoop的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。