這篇文章主要講解了“YARN是什么”，文中的講解內(nèi)容簡單清晰，易于學(xué)習(xí)與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學(xué)習(xí)“YARN是什么”吧！

　　YARN是一種新的 Hadoop 資源管理器，它是一個通用資源管理系統(tǒng)，可為上層應(yīng)用提供統(tǒng)一的資源管理和調(diào)度，它的引入為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來了巨大好處。

　　YARN總體上仍然是master/slave結(jié)構(gòu)，在整個資源管理框架中，resourcemanager為master，nodemanager是slave。Resourcemanager負(fù)責(zé)對各個nademanger上資源進(jìn)行統(tǒng)一管理和調(diào)度。當(dāng)用戶提交一個應(yīng)用程序時，需要提供一個用以跟蹤和管理這個程序的ApplicationMaster，它負(fù)責(zé)向ResourceManager申請資源，并要求NodeManger啟動可以占用一定資源的任務(wù)。由于不同的ApplicationMaster被分布到不同的節(jié)點上，因此它們之間不會相互影響。

　　YARN的基本組成結(jié)構(gòu)，YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等幾個組件構(gòu)成。

　　ResourceManager是Master上一個獨立運行的進(jìn)程，負(fù)責(zé)集群統(tǒng)一的資源管理、調(diào)度、分配等等；NodeManager是Slave上一個獨立運行的進(jìn)程，負(fù)責(zé)上報節(jié)點的狀態(tài)；App Master和Container是運行在Slave上的組件，Container是yarn中分配資源的一個單位，包涵內(nèi)存、CPU等等資源，yarn以Container為單位分配資源。Client向ResourceManager提交的每一個應(yīng)用程序都必須有一個Application Master，它經(jīng)過ResourceManager分配資源后，運行于某一個Slave節(jié)點的Container中，具體做事情的Task，同樣也運行與某一個Slave節(jié)點的Container中。RM，NM，AM乃至普通的Container之間的通信，都是用RPC機(jī)制。

　　YARN的架構(gòu)設(shè)計使其越來越像是一個云操作系統(tǒng)，數(shù)據(jù)處理操作系統(tǒng)。

　　最后提及YARN的資源管理，我們可以從以下幾個方面進(jìn)行理解：

　　1.資源調(diào)度和隔離是yarn作為一個資源管理系統(tǒng)，最重要且最基礎(chǔ)的兩個功能。資源調(diào)度由resourcemanager完成，而資源隔離由各個nodemanager實現(xiàn)。

　　2.Resourcemanager將某個nodemanager上資源分配給任務(wù)（這就是所謂的“資源調(diào)度”）后，nodemanager需按照要求為任務(wù)提供相應(yīng)的資源，甚至保證這些資源應(yīng)具有獨占性，為任務(wù)運行提供基礎(chǔ)和保證，這就是所謂的資源隔離。

　　3.當(dāng)談及到資源時，我們通常指內(nèi)存、cpu、io三種資源。Hadoop yarn目前為止僅支持cpu和內(nèi)存兩種資源管理和調(diào)度。

　　4.內(nèi)存資源多少決定任務(wù)的生死，如果內(nèi)存不夠，任務(wù)可能運行失敗；相比之下，cpu資源則不同，它只會決定任務(wù)的快慢，不會對任務(wù)的生死產(chǎn)生影響。

總結(jié)

以上是生活随笔為你收集整理的YARN是什么的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。