• HDFS的Shell操作


    一、HDFS的Shell介绍

    在这里插入图片描述

    二、了解HDFS常用Shell命令

    (一)三种Shell命令方式

    在这里插入图片描述

    (二)FileSystem Shell文档

    在这里插入图片描述

    (三)常用HDFS的Shell命令

    序号命令功能
    1hdfs dfs -ls 显示指定的文件或目录的详细信息。
    2hdfs dfs -ls -R ls命令的递归版本。
    3hdfs dfs -cat 指定文件的内容输出到标准输出。
    4hdfs dfs chgrp [-R] group 指定文件所属的组改为group,使用-R对指定目录内的文件进行递归操作。这个命令只适合于超级用户。
    5hdfs dfs -chown [-R] [owner][:[group]] 改变指定文件或目录的拥有者,-R用于递归改变目录内的文件或目录的拥有者。 这个命令只适合于超级用户。
    6hdfs dfs -chmod [-R] 指定文件或目录的权限更改为。这个命令只适合于超级用户和文件或目录的拥有者。
    7hdfs dfs -tail [-f] 指定文件最后1KB的内容输出到标准输出上,-f选项用于持续检测新添加到文件中的内容。
    8hdfs dfs -stat [format] 以指定格式返回指定文件的相关信息。当不指定format的时候,返回文件的创建日期。
    9hdfs dfs -touchz 创建一个指定的空文件。
    10hdfs dfs -mkdir [-p] 创建指定的一个或多个目录,-p选项用于递归创建子目录。
    11hdfs dfs -copyFromLocal 将本地源文件复制到路径指定的文件或目录中。
    12hadoo fs -copyToLocal [-ignorcrc] [-crc] 将目标文件复制到本地文件或目录中,可用-ignorecrc选项复制CRC校验失败的文件,使用-crc选项复制文件以及CRC信息。
    13hdfs dfs -cp 将文件从源路径复制到目标路径
    14hdfs dfs -du 显示指定文件或目录内所有文件的大小。
    15hdfs dfs -expunge清空回收站。
    16hdfs dfs -get [-ignorcrc] [-crc] 复制指定的文件到本地文件系统指定的文件或目录内,可用-ignorecrc选项复制CRC校验失败的文件,使用-crc选项复制文件以及CRC信息。
    17hdfs dfs -getmerge [-nl] 指定目录内所有文件进行合并,写入指定的本地文件。-nl是可选的,用于指定在每个文件结尾添加一个换行符。
    18hdfs dfs -put 从本地文件系统中复制指定的单个或多个源文件到指定的目标文件系统中。
    19hdfs dfs moveFromLocal 与put命令功能相同,但是文件上传结束后会从本地文件系统中删除指定的文件。
    20hdfs dfs -mv 将文件或目录从源路径移到目标路径
    21hdfs dfs -rm 删除指定的文件或目录(非空目录)。
    22hdfs dfs -rm -r 删除指定的目录及其下的所有文件,-r选项表示递归删除子目录。
    23hdfs dfs -setrep [-R] 改变指定文件的副本数,-R选项用于递归改变目录下所有文件的副本数。
    24hdfs dfs -test [-ezd] 检查指定文件或目录的相关信息。
    -e (exist)检查文件是否存在,如果存在则返回0,否则返回1
    -z (zero)检查文件是否是零字节,如果是则返回0,否则返回1
    -d(directory)检查路径是否是目录,如果是则返回0,否则返回1
    25hdfs dfs -text 指定的文件输出为文本格式,文件格式允许是zip和TextRecordInputStream。

    三、HDFS常用命令操作实战

    (一)创建目录

    在这里插入图片描述

  • 相关阅读:
    JeecgBoot 低代码平台 v3.6.0 大版本发布 —1024 程序员节快乐~
    VSCode任务tasks.json中的问题匹配器problemMatcher的问题匹配模式ProblemPattern详解
    java为什么编译与解释并存
    腾讯前端高频手写面试题
    javascript算法排序之插入排序
    Pytorch入门实战(8):小样本学习实现图片分类(Few-shot Learning, Meta Learning)
    Python之glob
    【Hyperledger Fabric 学习】安全模型(Key Concepts: Security Model)
    力扣第24题 两两交换链表中的节点 c++精讲 。
    12月1日(第三天)
  • 原文地址:https://blog.csdn.net/howard2005/article/details/134526976