yarn的基本组成和工作流程
yarn的基本組成和工作流程
yarn是負責資源管理的,協調各個應用程序的資源使用情況
一、基本組成
yarn主要由以下幾個部分組成
1、resourcemanager
主要負責資源的調度和應用程序的管理
(1)調度器
調度器是將系統中的資源分配給各個正在運行的應用程序。
(2)應用程序管理
負責管理所有applicationmaster
2、nodemanager
定時告訴resourceManger,node節點的資源使用情況;任務的啟動與停止
3、applicationmaster
向resourceManager請求資源,監聽任務的執行進度
4、container
資源的抽象(包括cpu,內存等信息),當applicationMaster向resourceManager請求資源的時候,就是以Container抽象資源的形式返回,
限制資源的使用情況
二、工作流程
1、client想yarn提交一個應用程序
2、resourceManager為改應用程序分配一個Container,與對應的nodeManager進行通信, 要求它在此container中啟動appmaster
3、appmaster向rm注冊,這樣用戶可以直接通過rm查看應用程序的運行狀態
4、appmaster為各個任務想rm請求資源
5、請求到資源后與nodeManager進行通信,要求啟動任務
6、啟動任務
7、各個任務向appmaster報告狀態和進度
8、appmaster向rm請求注銷自己
總結
以上是生活随笔為你收集整理的yarn的基本组成和工作流程的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Eclipse 的快捷键以及文档注释、多
- 下一篇: eclipse配置本地连接 hadoop