Hadoop之HDFS常用Shell命令

---

啟動Hadoop集群

sbin/start-dfs.shsbin/start-yarn.sh

-help：輸出這個命令參數

hadoop fs -help rm

-ls: 顯示目錄信息

hadoop fs -ls /

-mkdir：在hdfs上創建目錄

hadoop fs -mkdir -p /hadoop

-moveFromLocal從本地剪切粘貼到hdfs

hadoop fs -moveFromLocal ./hh.txt /hadoop

-cat：顯示文件內容

hadoop fs -cat /hadoop/hh.txt

-tail：顯示一個文件的末尾

adoop fs -tail /hadoop/hh.txt

-chgrp 、-chmod、-chown：linux文件系統中的用法一樣，修改文件所屬權限

hadoop fs -chmod 666 /hadoop/hh.txt hadoop fs -chown centos:centos /hadoop/hh.txt

-copyFromLocal：從本地文件系統中拷貝文件到hdfs路徑去

hadoop fs -copyFromLocal README.txt /

-copyToLocal：從hdfs拷貝到本地

hadoop fs -copyToLocal /hadoop/hh.txt ./

-cp ：從hdfs的一個路徑拷貝到hdfs的另一個路徑

hadoop fs -cp /hadoop/hh.txt /admin/hah.txt

-mv：在hdfs目錄中移動文件

hadoop fs -mv /hh.txt /admin

-get：等同于copyToLocal，就是從hdfs下載文件到本地

hadoop fs -get /hadoop/hh.txt ./

-getmerge ：合并下載多個文件，比如hdfs的目錄 /aaa/下有多個文件:log.1, log.2,log.3,…

hadoop fs -getmerge /user/test/* ./hh.txt

-put：等同于copyFromLocal

hadoop fs -put ./zaiyiqi.txt /user/test/

-rm：刪除文件或文件夾

hadoop fs -rm /user/test/jinlian2.txt

-rmdir：刪除空目錄

hadoop fs -rmdir /test

-du統計文件夾的大小信息

hadoop fs -du -s -h /user/test

-setrep：設置hdfs中文件的副本數量

hadoop fs -setrep 10 /hadoop/hh.txt

這里設置的副本數只是記錄在NameNode的元數據中，是否真的會有這么多副本，還得看DataNode的數量。因為目前只有3臺設備，最多也就3個副本，只有節點數的增加到10臺時，副本數才能達到10。

---

hadoop fs、hadoop dfs與hdfs dfs命令的區別

Hadoop fs：使用面最廣，可以操作任何文件系統。
hadoop dfs與hdfs dfs：只能操作HDFS文件系統相關（包括與Local FS間的操作），前者已經Deprecated，一般使用后者。

總結

以上是生活随笔為你收集整理的Hadoop之HDFS常用Shell命令的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。