<hadoop学习历程>--笔记心得3-HDFS数据管理与容错
2016-09-08 10:07
323 查看
一:数据容错
数据在一台机架内存放两个数据块,另外一个机架存放复制的一份,这样保证了
(1)同一个机架内数据损坏一个,也可以就近根据同一个机架内取得数据,
(2)整个机架损坏一个,也可以由另外的一个机架取的数据
二:心跳检测
数据存储到机架内后,如何知道数据块有那些损坏了呢?
我们可以定时任务,定时扫描机架内的数据,看看哪些数据块损坏,然后报告给NameNode管家,管家在更改存放文件与数据块的映射表 和数据块与数据节点的映射表这样保证所有数据都是即时有效的。
总统死掉了,副总统要被选举为总统,这样保证了管家一直正常。hadoop现在是单节点的NameNode,管家死掉了,相当于书本没有了目录,数据就全部丢失了,所以为了保证数据安全,添加了SecondaryNameNode,副管家。
数据在一台机架内存放两个数据块,另外一个机架存放复制的一份,这样保证了
(1)同一个机架内数据损坏一个,也可以就近根据同一个机架内取得数据,
(2)整个机架损坏一个,也可以由另外的一个机架取的数据
二:心跳检测
数据存储到机架内后,如何知道数据块有那些损坏了呢?
我们可以定时任务,定时扫描机架内的数据,看看哪些数据块损坏,然后报告给NameNode管家,管家在更改存放文件与数据块的映射表 和数据块与数据节点的映射表这样保证所有数据都是即时有效的。
总统死掉了,副总统要被选举为总统,这样保证了管家一直正常。hadoop现在是单节点的NameNode,管家死掉了,相当于书本没有了目录,数据就全部丢失了,所以为了保证数据安全,添加了SecondaryNameNode,副管家。
相关文章推荐
- <hadoop学习历程>--笔记心得4-HDFS文件读写流程
- <hadoop学习历程>--笔记心得5-HDFS的特点
- <hadoop学习历程>--笔记心得6-MapReduce原理
- <hadoop学习历程>--笔记心得8-HA环境搭建试验
- <hadoop学习历程>--笔记心得2-hadoop家族简介
- <学习笔记3>数据挖掘原理与运用-sql server2008 数据库
- <学习笔记4>数据挖掘原理与运用-sql server2008 数据库
- <hadoop学习历程>--9-hadoop误删除文件
- <转>ASP.NET学习笔记之MVC 3 数据验证 Model Validation 详解
- Accelerated C++学习笔记5—<组织程序和数据>
- 大数据学习笔记之二十六 HDFS Hadoop File System
- hadoop学习笔记之<hadoop fs和hdfs dfs命令>
- <学习笔记2>数据挖掘原理与运用-sql server2008 数据库
- Hadoop学习笔记——1.java读取Oracle中表的数据,创建新文件写入Hdfs
- hadoop学习之使用命令行以及javaAPI管理 hdfs中的数据
- hadoop学习笔记<三>----HDFS
- 大数据笔记05:大数据之Hadoop的HDFS(数据管理策略)
- Hadoop学习笔记(二):从map到reduce的数据流
- oracle 11g 学习笔记 10_31_管理表空间和数据文件
- <javascript学习笔记> javascript 元素获得相对父元素的偏移 相当于 jquery的position 方法。