hadoop1常见配置含义
生活随笔
收集整理的這篇文章主要介紹了
hadoop1常见配置含义
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
參數 ? ? ? ? ? ? ? ? ? ? ? ? ? ?取值 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 備注
| fs.default.name | NameNode?的URI。 | hdfs://主機名/ |
| dfs.hosts/dfs.hosts.exclude | 許可/拒絕DataNode列表。 | 如有必要,用這個文件控制許可的datanode列表。 |
| dfs.replication | 默認: 3 | 數據復制的分數 |
| dfs.name.dir | 舉例:/home/username/hadoop/namenode 默認:/tmp | 當這個值是一個逗號分割的目錄列表時,nametable數據將會被復制到所有目錄中做冗余備份。 |
| dfs.data.dir | 舉例:/home/username/hadoop/datanode 默認: /tmp | 當這個值是逗號分割的目錄列表時,數據將被存儲在所有目錄下,通常分布在不同設備上。 |
| ? | ? | ? |
| mapred.system.dir | Map/Reduce框架存儲系統文件的HDFS路徑。比如/hadoop/mapred/system/?。 | 這個路徑是默認文件系統(HDFS)下的路徑, 須從服務器和客戶端上均可訪問。 |
| mapred.local.dir | 本地文件系統下逗號分割的路徑列表,Map/Reduce臨時數據存放的地方。 | 多路徑有助于利用磁盤i/o。 |
| mapred.tasktracker.{map|reduce}.tasks.maximum | 某一TaskTracker?上可運行的最大Map/Reduce任務數,這些任務將同時各自運行。 | 默認為2(2個map和2個reduce),可依據硬件情況更改。 |
| mapred.job.tracker | JobTracker?的主機(或者IP)和端口。 | 主機:端口?。 |
| mapred.hosts/mapred.hosts.exclude | 許可/拒絕TaskTracker列表。 | 如有必要,用這個文件控制許可的TaskTracker列表。 |
| ? | ? | ? |
| hadoop.job.history.user.location | 默認:mapred.output.dir/_logs/history 也可以設置為none 來停用 | 作業的歷史文件記錄目錄 |
?
conf/slaves 寫入全部的slave的機器名或者IP
?
nameNode記住每個文件被映射成的 blockId。每個blockId對應的block會被復制到不同的機器上多余一份。
hadoop 默認的block 是 64MB
?
在M/R優化的時候可以通過修改一些配置文件的值來提高性能
轉載于:https://www.cnblogs.com/tonychai/p/4516514.html
總結
以上是生活随笔為你收集整理的hadoop1常见配置含义的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: LeetCode My Calendar
- 下一篇: UESTC - 1610 递推方程+矩阵