日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Hadoop YARN配置参数剖析—RM与NM相关参数

發布時間:2025/3/15 编程问答 23 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Hadoop YARN配置参数剖析—RM与NM相关参数 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

  注意,配置這些參數前,應充分理解這幾個參數的含義,以防止誤配給集群帶來的隱患。另外,這些參數均需要在yarn-site.xml中配置。

  1.? ? ResourceManager相關配置參數

  (1) yarn.resourcemanager.address

  參數解釋:ResourceManager 對客戶端暴露的地址。客戶端通過該地址向RM提交應用程序,殺死應用程序等。

  默認值:${yarn.resourcemanager.hostname}:8032

  (2) yarn.resourcemanager.scheduler.address

  參數解釋:ResourceManager 對ApplicationMaster暴露的訪問地址。ApplicationMaster通過該地址向RM申請資源、釋放資源等。

  默認值:${yarn.resourcemanager.hostname}:8030

  (3) yarn.resourcemanager.resource-tracker.address

  參數解釋:ResourceManager 對NodeManager暴露的地址.。NodeManager通過該地址向RM匯報心跳,領取任務等。

  默認值:${yarn.resourcemanager.hostname}:8031

  (4) yarn.resourcemanager.admin.address

  參數解釋:ResourceManager 對管理員暴露的訪問地址。管理員通過該地址向RM發送管理命令等。

  默認值:${yarn.resourcemanager.hostname}:8033

  (5) yarn.resourcemanager.webapp.address

  參數解釋:ResourceManager對外web ui地址。用戶可通過該地址在瀏覽器中查看集群各類信息。

  默認值:${yarn.resourcemanager.hostname}:8088

  (6) yarn.resourcemanager.scheduler.class

  參數解釋:啟用的資源調度器主類。目前可用的有FIFO、Capacity Scheduler和Fair Scheduler。

  默認值:

  org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler

  (7) yarn.resourcemanager.resource-tracker.client.thread-count

  參數解釋:處理來自NodeManager的RPC請求的Handler數目。

  默認值:50

  (8) yarn.resourcemanager.scheduler.client.thread-count

  參數解釋:處理來自ApplicationMaster的RPC請求的Handler數目。

  默認值:50

  (9) yarn.scheduler.minimum-allocation-mb/ yarn.scheduler.maximum-allocation-mb

  參數解釋:單個可申請的最小/最大內存資源量。比如設置為1024和3072,則運行MapRedce作業時,每個Task最少可申請1024MB內存,最多可申請3072MB內存。

  默認值:1024/8192

  (10) yarn.scheduler.minimum-allocation-vcores / yarn.scheduler.maximum-allocation-vcores

  參數解釋:單個可申請的最小/最大虛擬CPU個數。比如設置為1和4,則運行MapRedce作業時,每個Task最少可申請1個虛擬CPU,最多可申請4個虛擬CPU。什么是虛擬CPU,可閱讀我的這篇文章:“YARN 資源調度器剖析”。

  默認值:1/32

  (11) yarn.resourcemanager.nodes.include-path /yarn.resourcemanager.nodes.exclude-path

  參數解釋:NodeManager黑白名單。如果發現若干個NodeManager存在問題,比如故障率很高,任務運行失敗率高,則可以將之加入黑名單中。注意,這兩個配置參數可以動態生效。(調用一個refresh命令即可)

  默認值:“”

  (12) yarn.resourcemanager.nodemanagers.heartbeat-interval-ms

  參數解釋:NodeManager心跳間隔

  默認值:1000(毫秒)

  2. NodeManager相關配置參數

  (1) yarn.nodemanager.resource.memory-mb

  參數解釋:NodeManager總的可用物理內存。注意,該參數是不可修改的,一旦設置,整個運行過程中不 可動態修改。另外,該參數的默認值是8192MB,即使你的機器內存不夠8192MB,YARN也會按照這些內存來使用(傻不傻?),因此,這個值通過一 定要配置。不過,Apache已經正在嘗試將該參數做成可動態修改的。

  默認值:8192

  (2) yarn.nodemanager.vmem-pmem-ratio

  參數解釋:每使用1MB物理內存,最多可用的虛擬內存數。

  默認值:2.1

  (3) yarn.nodemanager.resource.cpu-vcores

  參數解釋:NodeManager總的可用虛擬CPU個數。

  默認值:8

  (4) yarn.nodemanager.local-dirs

  參數解釋:中間結果存放位置,類似于1.0中的mapred.local.dir。注意,這個參數通常會配置多個目錄,已分攤磁盤IO負載。

  默認值:${hadoop.tmp.dir}/nm-local-dir

  (5) yarn.nodemanager.log-dirs

  參數解釋:日志存放地址(可配置多個目錄)。

  默認值:${yarn.log.dir}/userlogs

  (6) yarn.nodemanager.log.retain-seconds

  參數解釋:NodeManager上日志最多存放時間(不啟用日志聚集功能時有效)。

  默認值:10800(3小時)

  (7) yarn.nodemanager.aux-services

  參數解釋:NodeManager上運行的附屬服務。需配置成mapreduce_shuffle,才可運行MapReduce程序

  默認值:“”

  原文鏈接:http://dongxicheng.org/mapreduce-nextgen/hadoop-yarn-configurations-resourcemanager-nodemanager/

總結

以上是生活随笔為你收集整理的Hadoop YARN配置参数剖析—RM与NM相关参数的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。