日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

hadoop1常见配置含义

發布時間:2023/12/18 编程问答 28 豆豆
生活随笔 收集整理的這篇文章主要介紹了 hadoop1常见配置含义 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

參數 ? ? ? ? ? ? ? ? ? ? ? ? ? ?取值 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 備注

fs.default.nameNameNode?的URI。hdfs://主機名/
dfs.hosts/dfs.hosts.exclude許可/拒絕DataNode列表。如有必要,用這個文件控制許可的datanode列表。
dfs.replication默認: 3數據復制的分數
dfs.name.dir

舉例:/home/username/hadoop/namenode

默認:/tmp

當這個值是一個逗號分割的目錄列表時,nametable數據將會被復制到所有目錄中做冗余備份。
dfs.data.dir

舉例:/home/username/hadoop/datanode

默認: /tmp

當這個值是逗號分割的目錄列表時,數據將被存儲在所有目錄下,通常分布在不同設備上。
???
mapred.system.dirMap/Reduce框架存儲系統文件的HDFS路徑。比如/hadoop/mapred/system/?。這個路徑是默認文件系統(HDFS)下的路徑, 須從服務器和客戶端上均可訪問。
mapred.local.dir本地文件系統下逗號分割的路徑列表,Map/Reduce臨時數據存放的地方。多路徑有助于利用磁盤i/o。
mapred.tasktracker.{map|reduce}.tasks.maximum某一TaskTracker?上可運行的最大Map/Reduce任務數,這些任務將同時各自運行。默認為2(2個map和2個reduce),可依據硬件情況更改。
mapred.job.trackerJobTracker?的主機(或者IP)和端口。主機:端口?。
mapred.hosts/mapred.hosts.exclude許可/拒絕TaskTracker列表。如有必要,用這個文件控制許可的TaskTracker列表。
???
hadoop.job.history.user.location

默認:mapred.output.dir/_logs/history

也可以設置為none 來停用

作業的歷史文件記錄目錄

?

conf/slaves 寫入全部的slave的機器名或者IP

?

nameNode記住每個文件被映射成的 blockId。每個blockId對應的block會被復制到不同的機器上多余一份。

hadoop 默認的block 是 64MB

?

在M/R優化的時候可以通過修改一些配置文件的值來提高性能

轉載于:https://www.cnblogs.com/tonychai/p/4516514.html

總結

以上是生活随笔為你收集整理的hadoop1常见配置含义的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。