九、HDFS安全模式,快照,回收站,配额管理的用法

网友投稿 226 2022-11-26

九、HDFS安全模式,快照,回收站,配额管理的用法

一、安全模式

hdfs最开始开始开启集群的时候,会处于安全模式下,此时内部正检查集群中的副本率是否满足配置文件中所配置的副本率1、如果不满足就需通过节点间的复制满足副本率后才会退出安全模式。2、如果大于所配置的副本率,就会通过删除多于副本来降低副本率

检查安全模式的情况:

hdfs dfsadmin -safemode get|enter|leave|wait

注意:处于安全模式下时,无法对hdfs中的文件进行写,修改操作,只能进行读操作。

1、最小副本条件的设置

dfs.replication.min, 默认是1

二、快照

这是对hdfs中某个目录做的一个备份。默认情况下,每个目录的快照功能是关闭的,所以如果要给该目录创建快照,就得给该目录开启快照功能。开启快照:

hdfs dfsadmin -allowSnapshot

关闭快照:

hdfs dfsadmin -disallowSnapshot

显示所有能创建快照的目录:

hdfs lsSnapshottableDir

比较两个快照不同的地方:

//比较一个目录的两个快照的不同 hdfs snapshotDiff 快照目录 快照1 快照2 //比较目录和快照的不同,中间那个“.”表示当前目录,不可省略 hdfs snapshotDiff 快照目录 . 快照1

创建快照:

//快照的目录 快照的名称(可选) hdfs dfs -createSnapshot [] 创建的快照状态会存储在所创建快照的目录下的 .snapshot// 这个目录下

删除快照:

//快照的目录 快照的名称(必须要有,因为一个目录可能有多个快照) hdfs dfs -deleteSnapshot

重命名快照:

//快照的目录 快照的名称(必须要有,因为一个目录可能有多个快照) hdfs dfs -renameSnapshot

从快照中恢复内容:

可以直接从 /.snapshot// 中查看到所有的文件以及目录,需要哪个文件就拷贝哪个文件。 snapshotDir为创建了快照的目录

三、hdfs回收站

回收站默认是关闭的,需要在配置文件中设置开启

1、开启回收站

修改core-site.xml,然后重启hdfs

fs.trash.interval 2 fs.trash.checkpoint.interval 1

2、查看回收站

开启回收站之后,当我们删除hdfs的文件时,删除的文件会移动到 hdfs的/user/USERNAME/.trash/Current/ 下,其中USERNAME是当前操作hdfs 的有用户名。所以实际上就是剪切操作。注意:通过程序删除的文件不会移动到回收站中,需要显式将文件移动到回收站。如果是通过命令行的是会移动到回收站的。

3、通过程序将文件移动到回收站

//创建回收站对象 Trash tsh = new Trash(conf); Path path = new Path(pathString); //将指定文件移动到回收站 tsh.moveToTrash(path);

4、清空回收站

hdfs dfs -expunge

5、从回收站恢复文件

直接从回收站的路径剪切到指定路径下即可

四、配额

//名称配额,简单说就是该目录下文件和目录的总个数的限制 hdfs dfsadmin -setQuota N HDFS目录1 HDFS目录2..... 设置名称配额 hdfs dfsadmin -clrQuota HDFS目录1 HDFS目录2..... 取消名称配额 //空间配额,简单说就是该目录的存储空间限制 hdfs dfsadmin -setSpaceQuota N单位(如:1GB) [-storageType ] HDFS目录1 HDFS目录2..... 设置空间配额 hdfs dfsadmin -clrSpaceQuota [-storageType ] HDFS目录1 HDFS目录2..... 取消空间配额 其中 storageType 有以下类型: RAW-DISK:原始物理磁盘 DISK: 分区空间 SSD: 固态硬盘 ARCHIVE:

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:CS5213替代AG6200 HDMI转VGA带音频方案
下一篇:持久层ORM框架Hibernate框架的使用及搭建方式
相关文章

 发表评论

暂时没有评论,来抢沙发吧~