2021年大数据Hadoop(二十五):YARN通俗介绍和基本架构
全網最詳細的Hadoop文章系列,強烈建議收藏加關注!
后面更新文章都會列出歷史文章目錄,幫助大家回顧知識重點。
目錄
本系列歷史文章
前言
YARN通俗介紹和基本架構
Yarn通俗介紹
Yarn基本架構
本系列歷史文章
2021年大數據Hadoop(三十):Hadoop3.x的介紹
2021年大數據Hadoop(二十九):關于YARN常用參數設置
2021年大數據Hadoop(二十八):YARN的調度器Scheduler
2021年大數據Hadoop(二十七):YARN運行流程
2021年大數據Hadoop(二十六):YARN三大組件介紹
2021年大數據Hadoop(二十五):YARN通俗介紹和基本架構
2021年大數據Hadoop(二十四):MapReduce高階訓練
2021年大數據Hadoop(二十三):MapReduce的運行機制詳解
2021年大數據Hadoop(二十二):MapReduce的自定義分組
2021年大數據Hadoop(二十一):MapReuce的Combineer
2021年大數據Hadoop(二十):MapReduce的排序和序列化
2021年大數據Hadoop(十九):MapReduce分區
2021年大數據Hadoop(十八):MapReduce程序運行模式和深入解析
2021年大數據Hadoop(十七):MapReduce編程規范及示例編寫
2021年大數據Hadoop(十六):MapReduce計算模型介紹
2021年大數據Hadoop(十五):Hadoop的聯邦機制 Federation
2021年大數據Hadoop(十四):HDFS的高可用機制
2021年大數據Hadoop(十三):HDFS意想不到的其他功能
2021年大數據Hadoop(十二):HDFS的API操作
2021年大數據Hadoop(十一):HDFS的元數據輔助管理
2021年大數據Hadoop(十):HDFS的數據讀寫流程
2021年大數據Hadoop(九):HDFS的高級使用命令
2021年大數據Hadoop(八):HDFS的Shell命令行使用
2021年大數據Hadoop(七):HDFS分布式文件系統簡介
2021年大數據Hadoop(六):全網最詳細的Hadoop集群搭建
2021年大數據Hadoop(五):Hadoop架構
2021年大數據Hadoop(四):Hadoop發行版公司
2021年大數據Hadoop(三):Hadoop國內外應用
2021年大數據Hadoop(二):Hadoop發展簡史和特性優點
2021年大數據Hadoop(一):Hadoop介紹
前言
?2021年全網最詳細的大數據筆記,輕松帶你從入門到精通,該欄目每天更新,匯總知識分享
YARN通俗介紹和基本架構
Yarn通俗介紹
Apache Hadoop YARN (Yet Another Resource Negotiator,另一種資源協調者)是一種新的 Hadoop 資源管理器,它是一個通用資源管理系統和調度平臺,可為上層應用提供統一的資源管理和調度,它的引入為集群在利用率、資源統一管理和數據共享等方面帶來了巨大好處。
可以把yarn理解為相當于一個分布式的操作系統平臺,而mapreduce等運算程序則相當于運行于操作系統之上的應用程序,Yarn為這些程序提供運算所需的資源(內存、cpu)。
- yarn并不清楚用戶提交的程序的運行機制
- yarn只提供運算資源的調度(用戶程序向yarn申請資源,yarn就負責分配資源)
- yarn中的主管角色叫ResourceManager
- yarn中具體提供運算資源的角色叫NodeManager
- yarn與運行的用戶程序完全解耦,意味著yarn上可以運行各種類型的分布式運算程序,比如mapreduce、storm,spark,tez ……
- spark、storm等運算框架都可以整合在yarn上運行,只要他們各自的框架中有符合yarn規范的資源請求機制即可
- yarn成為一個通用的資源調度平臺.企業中以前存在的各種運算集群都可以整合在一個物理集群上,提高資源利用率,方便數據共享
Yarn基本架構
YARN是一個資源管理、任務調度的框架,主要包含三大模塊:ResourceManager(RM)、NodeManager(NM)、ApplicationMaster(AM)。
ResourceManager負責所有資源的監控、分配和管理;
ApplicationMaster負責每一個具體應用程序的調度和協調;
NodeManager負責每一個節點的維護。
對于所有的applications,RM擁有絕對的控制權和對資源的分配權。而每個AM則會和RM協商資源,同時和NodeManager通信來執行和監控task。
- 📢博客主頁:https://lansonli.blog.csdn.net
- 📢歡迎點贊 👍 收藏 ?留言 📝 如有錯誤敬請指正!
- 📢本文由 Lansonli 原創,首發于 CSDN博客🙉
- 📢大數據系列文章會每天更新,停下休息的時候不要忘了別人還在奔跑,希望大家抓緊時間學習,全力奔赴更美好的生活?
總結
以上是生活随笔為你收集整理的2021年大数据Hadoop(二十五):YARN通俗介绍和基本架构的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 2021年大数据Hadoop(二十二):
- 下一篇: 2021年大数据Hadoop(二十六):