2021年大数据Hadoop(二十九):关于YARN常用参数设置
全網(wǎng)最詳細(xì)的Hadoop文章系列,強(qiáng)烈建議收藏加關(guān)注!
后面更新文章都會列出歷史文章目錄,幫助大家回顧知識重點(diǎn)。
目錄
本系列歷史文章
前言
關(guān)于yarn常用參數(shù)設(shè)置
設(shè)置container分配最小內(nèi)存
設(shè)置container分配最大內(nèi)存
設(shè)置每個container的最小虛擬內(nèi)核個數(shù)
設(shè)置每個container的最大虛擬內(nèi)核個數(shù)
設(shè)置NodeManager可以分配的內(nèi)存大小
定義每臺機(jī)器的內(nèi)存使用大小
定義交換區(qū)空間可以使用的大小
本系列歷史文章
2021年大數(shù)據(jù)Hadoop(三十):Hadoop3.x的介紹
2021年大數(shù)據(jù)Hadoop(二十九):關(guān)于YARN常用參數(shù)設(shè)置
2021年大數(shù)據(jù)Hadoop(二十八):YARN的調(diào)度器Scheduler
2021年大數(shù)據(jù)Hadoop(二十七):YARN運(yùn)行流程
2021年大數(shù)據(jù)Hadoop(二十六):YARN三大組件介紹
2021年大數(shù)據(jù)Hadoop(二十五):YARN通俗介紹和基本架構(gòu)
2021年大數(shù)據(jù)Hadoop(二十四):MapReduce高階訓(xùn)練
2021年大數(shù)據(jù)Hadoop(二十三):MapReduce的運(yùn)行機(jī)制詳解
2021年大數(shù)據(jù)Hadoop(二十二):MapReduce的自定義分組
2021年大數(shù)據(jù)Hadoop(二十一):MapReuce的Combineer
2021年大數(shù)據(jù)Hadoop(二十):MapReduce的排序和序列化
2021年大數(shù)據(jù)Hadoop(十九):MapReduce分區(qū)
2021年大數(shù)據(jù)Hadoop(十八):MapReduce程序運(yùn)行模式和深入解析
2021年大數(shù)據(jù)Hadoop(十七):MapReduce編程規(guī)范及示例編寫
2021年大數(shù)據(jù)Hadoop(十六):MapReduce計算模型介紹
2021年大數(shù)據(jù)Hadoop(十五):Hadoop的聯(lián)邦機(jī)制 Federation
2021年大數(shù)據(jù)Hadoop(十四):HDFS的高可用機(jī)制
2021年大數(shù)據(jù)Hadoop(十三):HDFS意想不到的其他功能
2021年大數(shù)據(jù)Hadoop(十二):HDFS的API操作
2021年大數(shù)據(jù)Hadoop(十一):HDFS的元數(shù)據(jù)輔助管理
2021年大數(shù)據(jù)Hadoop(十):HDFS的數(shù)據(jù)讀寫流程
2021年大數(shù)據(jù)Hadoop(九):HDFS的高級使用命令
2021年大數(shù)據(jù)Hadoop(八):HDFS的Shell命令行使用
2021年大數(shù)據(jù)Hadoop(七):HDFS分布式文件系統(tǒng)簡介
2021年大數(shù)據(jù)Hadoop(六):全網(wǎng)最詳細(xì)的Hadoop集群搭建
2021年大數(shù)據(jù)Hadoop(五):Hadoop架構(gòu)
2021年大數(shù)據(jù)Hadoop(四):Hadoop發(fā)行版公司
2021年大數(shù)據(jù)Hadoop(三):Hadoop國內(nèi)外應(yīng)用
2021年大數(shù)據(jù)Hadoop(二):Hadoop發(fā)展簡史和特性優(yōu)點(diǎn)
2021年大數(shù)據(jù)Hadoop(一):Hadoop介紹
前言
?2021大數(shù)據(jù)領(lǐng)域優(yōu)質(zhì)創(chuàng)作博客,帶你從入門到精通,該博客每天更新,逐漸完善大數(shù)據(jù)各個知識體系的文章,幫助大家更高效學(xué)習(xí)。
有對大數(shù)據(jù)感興趣的可以關(guān)注微信公眾號:三幫大數(shù)據(jù)
關(guān)于yarn常用參數(shù)設(shè)置
設(shè)置container分配最小內(nèi)存
yarn.scheduler.minimum-allocation-mb 1024 ?
給應(yīng)用程序container分配的最小內(nèi)存
設(shè)置container分配最大內(nèi)存
yarn.scheduler.maximum-allocation-mb 8192?
給應(yīng)用程序container分配的最大內(nèi)存
設(shè)置每個container的最小虛擬內(nèi)核個數(shù)
yarn.scheduler.minimum-allocation-vcores 1
每個container默認(rèn)給分配的最小的虛擬內(nèi)核個數(shù)
設(shè)置每個container的最大虛擬內(nèi)核個數(shù)
yarn.scheduler.maximum-allocation-vcores 32?
每個container可以分配的最大的虛擬內(nèi)核的個數(shù)
設(shè)置NodeManager可以分配的內(nèi)存大小
yarn.nodemanager.resource.memory-mb 8192 nodemanager?
可以分配的最大內(nèi)存大小,默認(rèn)8192Mb
定義每臺機(jī)器的內(nèi)存使用大小
yarn.nodemanager.resource.memory-mb 8192
定義交換區(qū)空間可以使用的大小
交換區(qū)空間就是講一塊硬盤拿出來做內(nèi)存使用,這里指定的是nodemanager的2.1倍
yarn.nodemanager.vmem-pmem-ratio 2.1
- 📢博客主頁:https://lansonli.blog.csdn.net
- 📢歡迎點(diǎn)贊 👍 收藏 ?留言 📝 如有錯誤敬請指正!
- 📢本文由 Lansonli 原創(chuàng),首發(fā)于 CSDN博客🙉
- 📢大數(shù)據(jù)系列文章會每天更新,停下休息的時候不要忘了別人還在奔跑,希望大家抓緊時間學(xué)習(xí),全力奔赴更美好的生活?
總結(jié)
以上是生活随笔為你收集整理的2021年大数据Hadoop(二十九):关于YARN常用参数设置的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 2021年大数据Hadoop(二十七):
- 下一篇: 2021年大数据Hadoop(三十):H