从品牌网站建设到网络营销策划,从策略到执行的一站式服务
云计算
这篇文章主要为大家展示了“HDFS中元数据的示例分析”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“HDFS中元数据的示例分析”这篇文章吧。
宜川网站制作公司哪家好,找成都创新互联!从网页设计、网站建设、微信开发、APP开发、成都响应式网站建设等网站项目制作,到程序开发,运营维护。成都创新互联从2013年创立到现在10年的时间,我们拥有了丰富的建站经验和运维经验,来保证我们的工作的顺利进行。专注于网站建设就选成都创新互联。我们都知道Hadoop的底层是HDFS-Hadoop Distributed File System.也就是Hadoop分布式文件系统。
所有的运算都是基于HDFS文件的,它的核心关键词有:主从NameNode VS DataNode.
-----------其中NameNode上存储的就是元数据---描述数据文件的meta信息。
存在形式有:内存信息+硬盘文件信息。
这段时间,就让我们一起来了解HDFS的元数据以及HDFS文件系统的要义吧。
-------------------------------------------------------------------------------------------------
试想,如果让我们自己设计一个文件系统,我们需要元数据存储哪些信息?
其实这取决于信息得到哪些功能?
个人认为功能包括:
1)namenode和所有datanode的IP,端口,文件夹,容量等信息。这相当于一个总体的文件系统框架描述。
2)每个datanode的文件的层次描述,文件目录关系。这个比1就更细致了。
3)对于某个文件,知道拆分了几块,每块的大小,备份情况,分别分布在哪些datanode上的哪些路径上。
从1我们可以得到分布式文件系统框架的骨架,从2我们可以得到分布式文件系统的血肉,从3我们可以得到具体的访问一个文件的方式。
有了以上3个,实际上就是namenode的元数据信息的组成部分,一切从应用的需求出发才可以得到设计图。
-------------------------------------------------------------------------------------------------
启动时,元数据从硬盘里被FSImage读取到内存中。
在持久化时,元数据被FSImage持久化到硬盘中。
同时硬盘中也会存放操作日志edits.我目前的理解是:把操作日志的行为累加起来---》最终的元数据。
这个也就像是redis里干的一样了。很多数据库也是这么操作的,这个没啥好说的,很简答!
-------------------------------------------------------------------------------------------------
HDFS也引入了INode,这实际上跟linux中的文件系统中的INode是一样的,其次就是由于是分布式文件系统
所以每个文件的分片在hdfs中就成了Block。块。
这里必须要强调:块是按照物理大小分的,而不是分局逻辑大小,这样会引入什么问题?
就是一个逻辑记录可能会分到2个块中,而这2个块可能还是跨机器的。
这些hadoop都会解决。以后再讨论。
以上是“HDFS中元数据的示例分析”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注创新互联行业资讯频道!
成都网站建设公司地址:成都市青羊区太升南路288号锦天国际A座10层 建设咨询028-86922220
成都快上网科技有限公司-四川网站建设设计公司 | 蜀ICP备19037934号 Copyright 2020,ALL Rights Reserved cdkjz.cn | 成都网站建设 | © Copyright 2020版权所有.
专家团队为您提供成都网站建设,成都网站设计,成都品牌网站设计,成都营销型网站制作等服务,成都建网站就找快上网! | 成都网站建设哪家好? | 网站建设地图