日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 人文社科 > 生活经验 >内容正文

生活经验

2021年大数据Hadoop(二十九):​​​​​​​关于YARN常用参数设置

發(fā)布時間:2023/11/28 生活经验 27 豆豆
生活随笔 收集整理的這篇文章主要介紹了 2021年大数据Hadoop(二十九):​​​​​​​关于YARN常用参数设置 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

全網(wǎng)最詳細(xì)的Hadoop文章系列,強(qiáng)烈建議收藏加關(guān)注!

后面更新文章都會列出歷史文章目錄,幫助大家回顧知識重點(diǎn)。

目錄

本系列歷史文章

前言

關(guān)于yarn常用參數(shù)設(shè)置

設(shè)置container分配最小內(nèi)存

設(shè)置container分配最大內(nèi)存

設(shè)置每個container的最小虛擬內(nèi)核個數(shù)

設(shè)置每個container的最大虛擬內(nèi)核個數(shù)

設(shè)置NodeManager可以分配的內(nèi)存大小

定義每臺機(jī)器的內(nèi)存使用大小

定義交換區(qū)空間可以使用的大小


本系列歷史文章

2021年大數(shù)據(jù)Hadoop(三十):Hadoop3.x的介紹

2021年大數(shù)據(jù)Hadoop(二十九):關(guān)于YARN常用參數(shù)設(shè)置

2021年大數(shù)據(jù)Hadoop(二十八):YARN的調(diào)度器Scheduler

2021年大數(shù)據(jù)Hadoop(二十七):YARN運(yùn)行流程

2021年大數(shù)據(jù)Hadoop(二十六):YARN三大組件介紹

2021年大數(shù)據(jù)Hadoop(二十五):YARN通俗介紹和基本架構(gòu)

2021年大數(shù)據(jù)Hadoop(二十四):MapReduce高階訓(xùn)練

2021年大數(shù)據(jù)Hadoop(二十三):MapReduce的運(yùn)行機(jī)制詳解

2021年大數(shù)據(jù)Hadoop(二十二):MapReduce的自定義分組

2021年大數(shù)據(jù)Hadoop(二十一):MapReuce的Combineer

2021年大數(shù)據(jù)Hadoop(二十):MapReduce的排序和序列化

2021年大數(shù)據(jù)Hadoop(十九):MapReduce分區(qū)

2021年大數(shù)據(jù)Hadoop(十八):MapReduce程序運(yùn)行模式和深入解析

2021年大數(shù)據(jù)Hadoop(十七):MapReduce編程規(guī)范及示例編寫

2021年大數(shù)據(jù)Hadoop(十六):MapReduce計算模型介紹

2021年大數(shù)據(jù)Hadoop(十五):Hadoop的聯(lián)邦機(jī)制 Federation

2021年大數(shù)據(jù)Hadoop(十四):HDFS的高可用機(jī)制

2021年大數(shù)據(jù)Hadoop(十三):HDFS意想不到的其他功能

2021年大數(shù)據(jù)Hadoop(十二):HDFS的API操作

2021年大數(shù)據(jù)Hadoop(十一):HDFS的元數(shù)據(jù)輔助管理

2021年大數(shù)據(jù)Hadoop(十):HDFS的數(shù)據(jù)讀寫流程

2021年大數(shù)據(jù)Hadoop(九):HDFS的高級使用命令

2021年大數(shù)據(jù)Hadoop(八):HDFS的Shell命令行使用

2021年大數(shù)據(jù)Hadoop(七):HDFS分布式文件系統(tǒng)簡介

2021年大數(shù)據(jù)Hadoop(六):全網(wǎng)最詳細(xì)的Hadoop集群搭建

2021年大數(shù)據(jù)Hadoop(五):Hadoop架構(gòu)

2021年大數(shù)據(jù)Hadoop(四):Hadoop發(fā)行版公司

2021年大數(shù)據(jù)Hadoop(三):Hadoop國內(nèi)外應(yīng)用

2021年大數(shù)據(jù)Hadoop(二):Hadoop發(fā)展簡史和特性優(yōu)點(diǎn)

2021年大數(shù)據(jù)Hadoop(一):Hadoop介紹

前言

?2021大數(shù)據(jù)領(lǐng)域優(yōu)質(zhì)創(chuàng)作博客,帶你從入門到精通,該博客每天更新,逐漸完善大數(shù)據(jù)各個知識體系的文章,幫助大家更高效學(xué)習(xí)。

有對大數(shù)據(jù)感興趣的可以關(guān)注微信公眾號:三幫大數(shù)據(jù)

關(guān)于yarn常用參數(shù)設(shè)置

設(shè)置container分配最小內(nèi)存

yarn.scheduler.minimum-allocation-mb 1024 ?

給應(yīng)用程序container分配的最小內(nèi)存

設(shè)置container分配最大內(nèi)存

yarn.scheduler.maximum-allocation-mb 8192?

給應(yīng)用程序container分配的最大內(nèi)存

設(shè)置每個container的最小虛擬內(nèi)核個數(shù)

yarn.scheduler.minimum-allocation-vcores 1

每個container默認(rèn)給分配的最小的虛擬內(nèi)核個數(shù)

設(shè)置每個container的最大虛擬內(nèi)核個數(shù)

yarn.scheduler.maximum-allocation-vcores 32?

每個container可以分配的最大的虛擬內(nèi)核的個數(shù)

設(shè)置NodeManager可以分配的內(nèi)存大小

yarn.nodemanager.resource.memory-mb 8192 nodemanager?

可以分配的最大內(nèi)存大小,默認(rèn)8192Mb

定義每臺機(jī)器的內(nèi)存使用大小

yarn.nodemanager.resource.memory-mb 8192

定義交換區(qū)空間可以使用的大小

交換區(qū)空間就是講一塊硬盤拿出來做內(nèi)存使用,這里指定的是nodemanager的2.1倍

yarn.nodemanager.vmem-pmem-ratio 2.1


  • 📢博客主頁:https://lansonli.blog.csdn.net
  • 📢歡迎點(diǎn)贊 👍 收藏 ?留言 📝 如有錯誤敬請指正!
  • 📢本文由 Lansonli 原創(chuàng),首發(fā)于 CSDN博客🙉
  • 📢大數(shù)據(jù)系列文章會每天更新,停下休息的時候不要忘了別人還在奔跑,希望大家抓緊時間學(xué)習(xí),全力奔赴更美好的生活?

總結(jié)

以上是生活随笔為你收集整理的2021年大数据Hadoop(二十九):​​​​​​​关于YARN常用参数设置的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。