博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Hadoop- NameNode和Secondary NameNode元数据管理机制
阅读量:7213 次
发布时间:2019-06-29

本文共 949 字,大约阅读时间需要 3 分钟。

元数据的存储机制  

A、内存中有一份完整的元数据(内存meta data)
B、磁盘有一个“准完整”的元数据镜像(fsimage)文件(在namenode的工作目录中)
C、用于衔接内存metadata和持久化元数据镜像fsimage之间的操作日志(edits文件)

NameNode和Secondary NameNode元数据管理机制

客户端每次对文件的操作,如果涉及到元数据的更新(读除外),比如说更改文件的名称,路径,移动,复制,上传,删除等,除了查之外,其他增删改都会有可能涉及到与元数据的更改。dfs不支持客户端更改文件内容,只能在文件后面追加。

注:当客户端对hdfs中的文件进行新增或者修改操作,操作记录首先被记入edits日志文件中,当客户端操作成功后,相应的元数据会更新到内存meta.data中。当日志里面累积的操作记录越来越多,与老的fsimage相差越来越大,这时候需要由Secondary NameNode定期把edits文件和老的fsimage做一个合并上传上NameNode替换掉老的fsimage,这时候NameNode上的fsimage文件和内存上的元数据永远保持在一个小的差距里面。NameNode工作时,它的元数据查询都是找内存的,不会去找fsimage,也不会去找edits。
 
XML处理器输出 fsimage 的 xml 文档,包含了 fsimage 中的所有信息,比如 inodeid 等。该处理器的输出支持XML工具的自动化处理和分析,由于XML语法格式的冗余,该处理器的输出也最大。实例如下:
[root@srv02 hadoop]# hdfs oiv -i fsimage 0000000000000000000116 -p XML -o fsimage.xml[root@srv02 hadoop]# cat fsimage.xml

edits文件是操作记录文件,也可以查看个究竟:

hdfs oev -i edits edits_0000000000000013356-0000000000000013357  -o edits.xml

  

 

转载于:https://www.cnblogs.com/RzCong/p/7357415.html

你可能感兴趣的文章
CDN行业“三足鼎立”格局已定,谁能代表未来?
查看>>
只“存活”9个月:Ubuntu 15.10今日停止支持
查看>>
淘汰Hyper-V replication 拥抱Storage Replica
查看>>
云服务器 ECS 建站教程:部署Linux主机管理系统WDCP
查看>>
Win10 Edge浏览器续航碾压火狐/Chrome
查看>>
蓄电池知识14问答
查看>>
中国将成为全球 APT 攻击的第一目标国,去年就有36个组织干中国,SOS!
查看>>
丑闻频出,Verizon收购雅虎价格恐缩水10亿美元
查看>>
陌陌看好的移动营销 Criteo表示尚未成为主流
查看>>
科通联手中兴 共同制定未来物联网标准
查看>>
打造智能家居安防系统 七个选购常识你需懂
查看>>
支援日本/厄瓜多尔震区 Skype推免费通话
查看>>
转账给张三,钱却被李四收到,如何狙击凶险的 App 漏洞?——专访娜迦CTO玩命...
查看>>
有些车已经不能再买了!因为国五排放标准就要来了!
查看>>
怎样为企业挑选正确的EDR解决方案
查看>>
《编程原本 》一2.2 轨道
查看>>
社交媒体广告看不出来?Instagram加标签让你一目了然
查看>>
Facebook已经过时,蜂巢新网络崛起
查看>>
智能城市技术能够更好地改善日常生活
查看>>
大数据会如何影响VC领域?
查看>>