本教程操作環(huán)境:linux5.9.8系統(tǒng)、Dell G3電腦。
hdfs命令是什么?
(相關(guān)資料圖)
指Hadoop hdfs系統(tǒng)的命令。
操作hdfs系統(tǒng)可以使用hadoop fs 也可以使用 hdfs dfs ,兩者效果一樣。(hadoop dfs命令已不再建議使用)
Hadoop hdfs系統(tǒng)的一些常用命令
一、hadoop fs (hdfs dfs) 文件操作
ls 顯示目錄下的所有文件或者文件夾
使用方法: hadoop fs -ls [uri形式目錄](méi)
示例: hadoop fs –ls / 顯示根目錄下的所有文件和目錄
顯示目錄下的所有文件可以加 -R 選項(xiàng)
示例: hadoop fs -ls -R /
cat 查看文件內(nèi)容
使用方法:hadoop fs -cat URI [URI …]
示例: hadoop fs -cat /in/test2.txt
mkdir 創(chuàng)建目錄
使用方法:hadoop fs -mkdir [uri形式目錄](méi)
示例: hadoop fs –mkdir /test
創(chuàng)建多級(jí)目錄 加上 –p
示例: hadoop fs –mkdir -p /a/b/c
rm 刪除目錄或者文件
使用方法:hadoop fs -rm [文件路徑] 刪除文件夾加上 -r
示例: hadoop fs -rm /test1.txt
刪除文件夾加上 -r,
示例:hadoop fs -rm -r /test
put 復(fù)制文件
將文件復(fù)制到hdfs系統(tǒng)中,也可以是從標(biāo)準(zhǔn)輸入中讀取文件,此時(shí)的dst是一個(gè)文件
使用方法: hadoop fs -put <localsrc> ... <dst>
示例:
Hadoop fs -put /usr/wisedu/temp/test1.txt /
從標(biāo)準(zhǔn)輸入中讀取文件:hadoop fs -put -/in/myword
cp 復(fù)制系統(tǒng)內(nèi)文件
使用方法:hadoopfs -cp URI [URI …] <dest>
將文件從源路徑復(fù)制到目標(biāo)路徑。這個(gè)命令允許有多個(gè)源路徑,此時(shí)目標(biāo)路徑必須是一個(gè)目錄。
示例:
hadoop fs -cp /in/myword/word
copyFromLocal 復(fù)制本地文件到hdfs
使用方法:hadoop fs-copyFromLocal <localsrc> URI
除了限定源路徑是一個(gè)本地文件外,和put命令相似
get 復(fù)制文件到本地系統(tǒng)
使用方法:hadoop fs -get[-ignorecrc] [-crc] <src> <localdst>
復(fù)制文件到本地文件系統(tǒng)??捎?ignorecrc選項(xiàng)復(fù)制CRC校驗(yàn)失敗的文件。使用-crc選項(xiàng)復(fù)制文件以及CRC信息。
示例:hadoop fs -get/word /usr/wisedu/temp/word.txt
copyToLocal 復(fù)制 文件到本地系統(tǒng)
使用方法:hadoop fs-copyToLocal [-ignorecrc] [-crc] URI <localdst>
除了限定目標(biāo)路徑是一個(gè)本地文件外,和get命令類似。
示例:hadoop fs - copyToLocal/word /usr/wisedu/temp/word.txt
mv
將文件從源路徑移動(dòng)到目標(biāo)路徑。這個(gè)命令允許有多個(gè)源路徑,此時(shí)目標(biāo)路徑必須是一個(gè)目錄。不允許在不同的文件系統(tǒng)間移動(dòng)文件。
使用方法:hadoop fs -mv URI [URI …] <dest>
示例:hadoop fs -mv /in/test2.txt /test2.txt
du 顯示文件大小
顯示目錄中所有文件的大小。
使用方法:hadoop fs -du URI [URI …]
示例: hadoop fs -du /
顯示當(dāng)前目錄或者文件夾的大小可加選項(xiàng) -s
示例: hadoop fs -du -s /
touchz 創(chuàng)建空文件
使用方法:hadoop fs -touchz URI [URI …]
創(chuàng)建一個(gè)0字節(jié)的空文件
示例:hadoop fs -touchz /empty.txt
chmod 改變文件權(quán)限
使用方法:hadoop fs -chmod[-R] <MODE[,MODE]... | OCTALMODE> URI [URI …]
與Linux平臺(tái)下chmod命令相似,改變文件的權(quán)限。使用-R將使改變?cè)谀夸浗Y(jié)構(gòu)下遞歸進(jìn)行。命令的使用者必須是文件的所有者或者超級(jí)用戶。
示例:先創(chuàng)建一個(gè)普通用戶test:sudo useradd -m test
再用wisedu用戶在hdfs系統(tǒng)目錄/a下創(chuàng)建hello.txt文件,此時(shí)test具有讀取/a/hello.txt文件的權(quán)限,如下圖:
在切換回wisedu用戶修改文件的權(quán)限,讓/a目錄下的文件對(duì)于其他用戶都不可讀,命令: hadoop fs -chmod -R o-r /a 如下圖所示,再切換回test用戶查看/a/hello.txt文件時(shí)提示沒(méi)有權(quán)限:
chown 改變文件所有者
使用方法:hadoop fs -chown [-R] [OWNER][:[GROUP]] URI [URI]
改變文件的擁有者。使用-R將使改變?cè)谀夸浗Y(jié)構(gòu)下遞歸進(jìn)行。命令的使用者必須是超級(jí)用戶。
示例:hadoop fs -chown -R test /a 如下圖:
chgrp 改變文件所在組
使用方法:hadoop fs -chgrp [-R] GROUP URI [URI …]
改變文件所屬的組。使用-R將使改變?cè)谀夸浗Y(jié)構(gòu)下遞歸進(jìn)行。命令的使用者必須是文件的所有者或者超級(jí)用戶。
示例:hadoop fs -chgrp -R test /a 如下圖:
二、hdfs dfsadmin 管理命令
1) -report
查看文件系統(tǒng)的基本信息和統(tǒng)計(jì)信息。
示例:hdfs dfsadmin -report
2) -safemode
enter | leave | get | wait:安全模式命令。安全模式是NameNode的一種狀態(tài),在這種狀態(tài)下,NameNode不接受對(duì)名字空間的更改(只讀);不復(fù)制或刪除塊。NameNode在啟動(dòng)時(shí)自動(dòng)進(jìn)入安全模式,當(dāng)配置塊的最小百分?jǐn)?shù)滿足最小副本數(shù)的條件時(shí),會(huì)自動(dòng)離開(kāi)安全模式。enter是進(jìn)入,leave是離開(kāi)。
示例:hdfs dfsadmin -safemode get
hdfsdfsadmin -safemode enter
3) -refreshNodes
重新讀取hosts和exclude文件,使新的節(jié)點(diǎn)或需要退出集群的節(jié)點(diǎn)能夠被NameNode重新識(shí)別。這個(gè)命令在新增節(jié)點(diǎn)或注銷節(jié)點(diǎn)時(shí)用到。
示例:hdfs dfsadmin -refreshNodes
4) -finalizeUpgrade
終結(jié)HDFS的升級(jí)操作。DataNode刪除前一個(gè)版本的工作目錄,之后NameNode也這樣做。
5) -upgradeProgress
status| details | force:請(qǐng)求當(dāng)前系統(tǒng)的升級(jí)狀態(tài) | 升級(jí)狀態(tài)的細(xì)節(jié)| 強(qiáng)制升級(jí)操作
6) -metasave filename
保存NameNode的主要數(shù)據(jù)結(jié)構(gòu)到hadoop.log.dir屬性指定的目錄下的<filename>文件中。
7) -setQuota<quota><dirname>……<dirname>
為每個(gè)目錄<dirname>設(shè)定配額<quota>。目錄配額是一個(gè)長(zhǎng)整形整數(shù),強(qiáng)制設(shè)定目錄樹(shù)下的名字個(gè)數(shù)。
8) -clrQuota<dirname>……<dirname>
為每個(gè)目錄<dirname>清除配額設(shè)定。
9) -help
顯示幫助信息
更多相關(guān)知識(shí),請(qǐng)?jiān)L問(wèn)常見(jiàn)問(wèn)題欄目!
以上就是hdfs命令是什么的詳細(xì)內(nèi)容,更多請(qǐng)關(guān)注php中文網(wǎng)其它相關(guān)文章!
關(guān)鍵詞: