日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 人文社科 > 生活经验 >内容正文

生活经验

2021年大数据Hadoop(二十五):YARN通俗介绍和基本架构

發布時間:2023/11/28 生活经验 23 豆豆
生活随笔 收集整理的這篇文章主要介紹了 2021年大数据Hadoop(二十五):YARN通俗介绍和基本架构 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

全網最詳細的Hadoop文章系列,強烈建議收藏加關注!

后面更新文章都會列出歷史文章目錄,幫助大家回顧知識重點。

目錄

本系列歷史文章

前言

YARN通俗介紹和基本架構

Yarn通俗介紹

Yarn基本架構


本系列歷史文章

2021年大數據Hadoop(三十):Hadoop3.x的介紹

2021年大數據Hadoop(二十九):關于YARN常用參數設置

2021年大數據Hadoop(二十八):YARN的調度器Scheduler

2021年大數據Hadoop(二十七):YARN運行流程

2021年大數據Hadoop(二十六):YARN三大組件介紹

2021年大數據Hadoop(二十五):YARN通俗介紹和基本架構

2021年大數據Hadoop(二十四):MapReduce高階訓練

2021年大數據Hadoop(二十三):MapReduce的運行機制詳解

2021年大數據Hadoop(二十二):MapReduce的自定義分組

2021年大數據Hadoop(二十一):MapReuce的Combineer

2021年大數據Hadoop(二十):MapReduce的排序和序列化

2021年大數據Hadoop(十九):MapReduce分區

2021年大數據Hadoop(十八):MapReduce程序運行模式和深入解析

2021年大數據Hadoop(十七):MapReduce編程規范及示例編寫

2021年大數據Hadoop(十六):MapReduce計算模型介紹

2021年大數據Hadoop(十五):Hadoop的聯邦機制 Federation

2021年大數據Hadoop(十四):HDFS的高可用機制

2021年大數據Hadoop(十三):HDFS意想不到的其他功能

2021年大數據Hadoop(十二):HDFS的API操作

2021年大數據Hadoop(十一):HDFS的元數據輔助管理

2021年大數據Hadoop(十):HDFS的數據讀寫流程

2021年大數據Hadoop(九):HDFS的高級使用命令

2021年大數據Hadoop(八):HDFS的Shell命令行使用

2021年大數據Hadoop(七):HDFS分布式文件系統簡介

2021年大數據Hadoop(六):全網最詳細的Hadoop集群搭建

2021年大數據Hadoop(五):Hadoop架構

2021年大數據Hadoop(四):Hadoop發行版公司

2021年大數據Hadoop(三):Hadoop國內外應用

2021年大數據Hadoop(二):Hadoop發展簡史和特性優點

2021年大數據Hadoop(一):Hadoop介紹

前言

?2021年全網最詳細的大數據筆記,輕松帶你從入門到精通,該欄目每天更新,匯總知識分享

YARN通俗介紹和基本架構

Yarn通俗介紹

Apache Hadoop YARN (Yet Another Resource Negotiator,另一種資源協調者)是一種新的 Hadoop 資源管理器,它是一個通用資源管理系統和調度平臺,可為上層應用提供統一的資源管理和調度,它的引入為集群在利用率、資源統一管理和數據共享等方面帶來了巨大好處。

可以把yarn理解為相當于一個分布式的操作系統平臺,而mapreduce等運算程序則相當于運行于操作系統之上的應用程序,Yarn為這些程序提供運算所需的資源(內存、cpu)。

  • yarn并不清楚用戶提交的程序的運行機制
  • yarn只提供運算資源的調度(用戶程序向yarn申請資源,yarn就負責分配資源)
  • yarn中的主管角色叫ResourceManager
  • yarn中具體提供運算資源的角色叫NodeManager
  • yarn與運行的用戶程序完全解耦,意味著yarn上可以運行各種類型的分布式運算程序,比如mapreduce、storm,spark,tez ……
  • spark、storm等運算框架都可以整合在yarn上運行,只要他們各自的框架中有符合yarn規范的資源請求機制即可
  • yarn成為一個通用的資源調度平臺.企業中以前存在的各種運算集群都可以整合在一個物理集群上,提高資源利用率,方便數據共享

Yarn基本架構

YARN是一個資源管理、任務調度的框架,主要包含三大模塊:ResourceManager(RM)、NodeManager(NM)、ApplicationMaster(AM)

ResourceManager負責所有資源的監控、分配和管理;

ApplicationMaster負責每一個具體應用程序的調度和協調;

NodeManager負責每一個節點的維護。

對于所有的applications,RM擁有絕對的控制權和對資源的分配權。而每個AM則會和RM協商資源,同時和NodeManager通信來執行和監控task。


  • 📢博客主頁:https://lansonli.blog.csdn.net
  • 📢歡迎點贊 👍 收藏 ?留言 📝 如有錯誤敬請指正!
  • 📢本文由 Lansonli 原創,首發于 CSDN博客🙉
  • 📢大數據系列文章會每天更新,停下休息的時候不要忘了別人還在奔跑,希望大家抓緊時間學習,全力奔赴更美好的生活?

總結

以上是生活随笔為你收集整理的2021年大数据Hadoop(二十五):YARN通俗介绍和基本架构的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。