Hadoop2.2.0+HA+zookeeper3.4.5详细配置过程+错误处理(一)
Hadoop2.2.0+HA+zookeeper3.4.5+體系結(jié)構(gòu)+錯誤處理
??????? 心血之作，在熟悉hadoop2架構(gòu)的過程耽誤了太長時間，在搭建環(huán)境過程遇到一些問題，這些問題一直卡在那兒，不得以解決，耽誤了時間。最后，千尋萬尋，把問題解決，多謝在過程提供幫助的大俠。這篇文章中，我也會把自己遇到的問題給列出來，幫助后來者進(jìn)一步的學(xué)習(xí)。
?????? 這篇文章結(jié)合自己實(shí)際測試過程。轉(zhuǎn)載注明出處：
???????http://blog.csdn.net/yczws1/article/details/23566383
前言
?????? 本文主要通過對hadoop2.2.0集群配置的過程加以梳理，所有的步驟都是通過自己實(shí)際測試。文檔的結(jié)構(gòu)也是根據(jù)自己的實(shí)際情況而定，同時也會加入自己在實(shí)際過程遇到的問題。搭建環(huán)境過程不重要，重要點(diǎn)在于搭建過程中遇到的問題，解決問題的過程。
?????? 可能自己遇到的問題在一些由經(jīng)驗(yàn)的老者手上都不是問題，但是這些問題著實(shí)讓自己耽誤了很長時間，最后問題解決也是費(fèi)了太大心血。也通過這篇文檔，表現(xiàn)出來，算是總結(jié)，為后者提供意見。
Hadoop2.2.0體系結(jié)構(gòu)
?????? 要想理解本節(jié)內(nèi)容，首先需要了解hadoop1的體系結(jié)構(gòu)。這里不過多的介紹基于hadoop1的體系架構(gòu)，早在之前，曾搭建hadoop1.2.1偽分布式集群，詳細(xì)請看hadoop學(xué)習(xí)（一）hadoop-1.2.1偽分布式配置及遇到的問題。這里主要介紹hadoop2的體系架構(gòu)。
??????? hadoop1的核心組成是兩部分，即HDFS和MapReduce。在hadoop2中變?yōu)?/span>HDFS和Yarn。
??????? 新的HDFS中的NameNode不再是只有一個了，可以有多個（目前只支持2個）。每一個都有相同的職能。
??????? 這兩個NameNode的地位如何：一個是active狀態(tài)的，一個是standby狀態(tài)的。當(dāng)?集群運(yùn)行時，只有active狀態(tài)的NameNode是正常工作的，standby狀態(tài)的NameNode是處于待命狀態(tài)的，時刻同步active狀態(tài)?NameNode的數(shù)據(jù)。一旦active狀態(tài)的NameNode不能工作，通過手工或者自動切換，standby狀態(tài)的NameNode就可以轉(zhuǎn)變?yōu)?active狀態(tài)的，就可以繼續(xù)工作了。這就是高可靠。
??????? 當(dāng)NameNode發(fā)生故障時，他們的數(shù)據(jù)如何保持一致：在這里，2個NameNode的數(shù)據(jù)其實(shí)是實(shí)時共享的。新HDFS采用了一種共享機(jī)制，JournalNode集群或者NFS進(jìn)行共享。NFS是操作系統(tǒng)層面的，JournalNode是hadoop層面的，我們這里使用JournalNode集群進(jìn)行數(shù)據(jù)共享。
??????? 如何實(shí)現(xiàn)NameNode的自動切換：這就需要使用ZooKeeper集群進(jìn)行選擇了。HDFS集群中的兩個NameNode都在ZooKeeper中注冊，當(dāng)active狀態(tài)的NameNode出故障時，ZooKeeper能檢測到這種情況，它就會自動把standby狀態(tài)的NameNode切換為active狀態(tài)。
??????? HDFS?Federation（HDFS聯(lián)盟）：聯(lián)盟的出現(xiàn)是有原因的。我們知道?NameNode是核心節(jié)點(diǎn)，維護(hù)著整個HDFS中的元數(shù)據(jù)信息，那么其容量是有限的，受制于服務(wù)器的內(nèi)存空間。當(dāng)NameNode服務(wù)器的內(nèi)存裝不下數(shù)據(jù)后，那么HDFS集群就裝不下數(shù)據(jù)了，壽命也就到頭了。因此其擴(kuò)展性是受限的。HDFS聯(lián)盟指的是有多個HDFS集群同時工作，那么其容量理論上就不受限了，夸張點(diǎn)說就是無限擴(kuò)展。你可以理解成，一個總集群中，可以虛擬出兩個或兩個以上的單獨(dú)的小集群，各個小集群之間數(shù)據(jù)是實(shí)時共享的。因?yàn)閔adoop集群中已經(jīng)不在單獨(dú)存在namenode和datanode的概念。當(dāng)一個其中一個小集群出故障，可以啟動另一個小集群中的namenode節(jié)點(diǎn)，繼續(xù)工作。因?yàn)閿?shù)據(jù)是實(shí)時共享，即使namenode或datanode一起死掉，也不會影響整個集群的正常工作。
集群節(jié)點(diǎn)任務(wù)安排：
??????? 這點(diǎn)很重要，我們事先一定要先理解，節(jié)點(diǎn)之間任務(wù)是如何安排的。如果事先不理解為什么是這樣，后面還會遇到更多的問題。這就需要，理解journalnode、zookeeper、datanode、namenode之間關(guān)系。自己也是在這上面耽誤了很長時間，希望讀者這點(diǎn)多注意下。
??????? 6臺主機(jī)。
??????? Journalnode和zookeeper保持奇數(shù)點(diǎn)，這點(diǎn)大家要有個概念，最少不少于3個節(jié)點(diǎn)。這里暫不講解。
??????? 兩個namenode上面已經(jīng)說明，其實(shí)在hadoop2中幾點(diǎn)之間namenode和datanode之間的劃分已經(jīng)不是那么明確了。這只是采用后4臺機(jī)器作為namenode。這里也存在一個問題：如果把datanode和namenode放在一起，對數(shù)據(jù)的讀取IO的效率肯定會有一定的影響，不同機(jī)器之間還是要通過網(wǎng)線和http請求完成數(shù)據(jù)之間的共享。實(shí)際中，兩者是可以在一起。但是我不知道在一起和不在一起之間的主要區(qū)別在哪兒，上面的解釋只是個人意見，如果讀者有更好的意見可以留言，大家一起討論。
?????? 在集群搭建之間，各主機(jī)設(shè)置靜態(tài)IP、更改主機(jī)名稱、主機(jī)之間ssh互聯(lián)等相關(guān)設(shè)置這里不在多講。如有需要，請參考：hadoop學(xué)習(xí)（五）Hadoop2.2.0完全分布式安裝詳解（1）配置文檔。
?????? 下面就進(jìn)入正式的集群的安裝過程：
?????? 下面所有的過程都是在hadoop1機(jī)器上完成的，之后把文件復(fù)制到其他節(jié)點(diǎn)中。
Zookeeper安裝過程：
1、下載解壓zookeeper
?????? 下載地址：http://mirror.bit.edu.cn/apache/zookeeper/zookeeper-3.4.5/
? ? ?? 解壓到指定目錄：這里目錄：/home/tom/yarn/hadoop-2.2.0/app/
?????? 在hadoop目錄中創(chuàng)建app目錄。把文件解壓到hadoop的app目錄中，是為了以后整個項(xiàng)目可以整體移植。包括后面，我們會安裝HBase、Hive等軟件，都是解壓到app的目錄中。
2、修改配置文件
2.1進(jìn)入zookeeper中conf目錄：
?????? 拷貝命名zoo_sample.cfg?為zoo.cfg。我們一般不修改配置文件默認(rèn)的示例文件，修改賦值其子文件。
?????? 編輯zoo.cfg
[plain]?view plaincopy2.2創(chuàng)建zkdata和zkdatalog兩個文件夾
?????? 在zookeeper的目錄中，創(chuàng)建上述兩個文件夾。進(jìn)入zkdata文件夾，創(chuàng)建文件myid，填入1。這里寫入的1，是在zoo.cfg文本中的server.1中的1。當(dāng)我們把所有文件都配置完畢，我們把hadoop1中yarn目錄復(fù)制到其它機(jī)器中，我們在修改每臺機(jī)器中對應(yīng)的myid文本，hadoop2中的myid寫入2。其余節(jié)點(diǎn)，安照上面配置，依此寫入相應(yīng)的數(shù)字。Zkdatalog文件夾，是為了指定zookeeper產(chǎn)生日志指定相應(yīng)的路徑。
3、添加環(huán)境變量
?????? 本機(jī)環(huán)境變量添是在/etc/profile目錄中添加的。
[plain]?view plaincopy??????? 添加ZOOKEEPER_HOME/bin目錄可以在原有的PATH后面加入
??????? ：$ZOOKEEPER_HOME/bin
??????? 關(guān)于環(huán)境變量修改/etc目錄下的profile文件，也可以在根目錄下的.bashrc目錄下添加環(huán)境變量。這兩者有什么區(qū)別：.bashrc是對當(dāng)前目錄用戶的環(huán)境變量，profile文件是對所有用戶都開放的目錄。當(dāng)系統(tǒng)加載文件中，先從profile找相應(yīng)的路勁，如果沒有會在.bashrc文件中找對應(yīng)的環(huán)境變量路徑。這兩者大家稍至了解。
??????? 然后?source?/etc/profile
?????? 上面3個步驟就安裝zookeeper完畢。然后就是測試zookeeper，這個放到后面等hadoop1上整體配置完畢，scp到其它主機(jī)上后，再一起測試。
Hadoop配置
1、下載解壓hadoop2.2.0
??????? 路徑：http://apache.dataguru.cn/hadoop/common/hadoop-2.2.0/
?????? 解壓到：/home/tom/yarn/下。其實(shí)這一步應(yīng)該在解壓zookeeper之前。不再多講。
2、修改配置文件
??????? 這里要修改配置文件一共包括6個，分別是在hadoop-env.sh、core-site.xml、hdfs-site.xml、mapred-site.xml、?yarn-site.xml和slaves。
??????? 修改文件的目錄地址：/home/tom/yarn/hadoop-2.2.0/etc/hadoop/
2.1文件hadoop-env.sh
??????? 添加jdk環(huán)境變量：
??????? export?JAVA_HOME=/usr/lib/jvm/jdk1.7.0_45
2.2文件coer-site.xml
[plain]?view plaincopy
2.3文件hdfs-site.xml
[plain]?view plaincopy
2.4文件mapred-site.xml
[plain]?view plaincopy2.5文件yarn-site.xml
[plain]?view plaincopy
2.6文件slaves
????? 添加：這里指定哪臺機(jī)器是datanode，這里指定4臺機(jī)器。你甚至可以把集群所有機(jī)器都當(dāng)做datanode
[plain]?view plaincopy3、添加環(huán)境變量
?????? 環(huán)境變量的添加方法大都相同。這里給出我所有環(huán)境變量配置，大家可以根據(jù)自己的需要參考一下。
?????? 這里我們只要添加HADOOP_HOME環(huán)境變量。
[plain]?view plaincopy4、復(fù)制到其它節(jié)點(diǎn)
?????? 在hadoop的的根目錄下（即：/home/tom目錄下）：因?yàn)槲覀兯械沫h(huán)境都裝載在hadoop1的tom目錄下。
執(zhí)行：
[plain]?view plaincopy注意點(diǎn)：
????? 1、因?yàn)槲覀兪前颜麄€yarn目錄復(fù)制到其他節(jié)點(diǎn)中，zookeeper也包含在內(nèi)。事先我們定義zookeeper是在1-5臺機(jī)器上部署。這里我們雖然把zookeeper拷貝到6機(jī)器中，但是我們再zookeeper配置文件中沒有配置6機(jī)器的節(jié)點(diǎn)，在啟動zookeeper的時候，6機(jī)器也不需要啟動。
????? 2、現(xiàn)在要做的是進(jìn)入zookeeper目錄下的zkdata目錄，修改myid文件：各個myid內(nèi)容對應(yīng)zoo.cfg文件中server對應(yīng)的編號。
?????? 按照上面的3個大步驟，以及在注釋中自己要創(chuàng)建的文件夾，指定相應(yīng)的路徑之后，整體的hadoop環(huán)境算是搭建完畢。下面就是等測試。
??????? 看似簡單的不能再簡單的搭建過程，這是你弄明白之后的事情。在從hadoop1到2之間的過度，主要的變化是namenode和mapreduce到yarn架構(gòu)之間的變化。就在這簡單的配置過程中，加上可參考網(wǎng)上眾多配置教程，也耽誤了太長時間。不是文件難配置，而是在出現(xiàn)問題，不知道怎么解決，就一直卡在那兒。咨詢過一些大牛，但是他們也是搪塞，沒有給出真正問題的原因。其中有一個問題，在QQ群中，咨詢過一個人，從他那邊才得到啟發(fā)，把其中的一個問題給解決掉。這也是我們遇到的問題，沒有一個平臺，導(dǎo)致在一些別人看似不是問題的問題上耽誤太長時間。
???????? 上面的任務(wù)完成后。下面才是非常關(guān)鍵的步驟，任務(wù)的重中之重，同時也是問題出現(xiàn)的地方，也是卡時間最多的地方：測試整個集群的性能。由下一篇博客介紹
總結(jié)
以上是生活随笔為你收集整理的Hadoop2.2.0+HA+zookeeper3.4.5详细配置过程+错误处理(一)的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： Hadoop2异常分析（二）：Sqoop
- 下一篇： Hadoop机架感知