深度理解HDFS架构

                                        深入理解HDFS架构

副本存放:

优化的副本存放策略是HDFS区分其他分布式系统的重要特性。HDFS采用机架感知策略
来改进副本数据的可靠性,可用性,网络带宽的利用率。
通过机架感知,Namenode可以确定DataNode所属机架id。
HDFS的存放策略是将一个副本存放在本地机架的节点上,一个副本放在同一机架的另一个节点,
最后一个副本存放在不同机架的节点上。
减少机架间的数据传输,提高了写操作的效率,读的时候更好利用多个机架的带宽。

安全模式

Namenode启动后会进入安全模式的特殊状态,不进行数据块的复制。
Namenode从所有的DataNode接收心跳信号和块状态报告。
块状态报告包括DataNode所有数据块列表。检测各数据块是否达到最小副本数目。

文件系统元数据持久化

对于任何对文件系统元数据产生修改的操作,Namenode使用EditLog的事务日志记录下来。
整个文件系统的DataNode空间,包括数据块到文件的映射,文件的属性等,存储在FsaImage文件。
当NameNode启动时,从硬盘中读取EditLog和FsImage,将所有的EditLog事务作用在内存中的Image。
保存FsImage,删除EditLog,这个过程称为一个检查点,只发生在NameNode启动时。

文件系统回收站

如果启用了回收站配置,用户或应用程序删除某个文件时,将这个文件重命名转移到/trash目录,以便后面的
复原。保存时间可以配置,超过时间,文件将被永远删除。

hadoop fs -rm /file
将file移动到回收站目录。
hadoop fs -rm -skipTrash /file 
将file直接删除。

分享标题:深度理解HDFS架构
文章路径:http://azwzsj.com/article/igosgs.html