您的位置:首页 > 运维架构

Hadoop项目

2016-07-21 19:58 232 查看
Common:一系列组件和接口,用于分布式文件系统和通用I/O(序列化,Java RPC 和持久化数据结构)

Avro:一种序列化系统,用于支持高效,跨语言的RPC和持久化数据存储

MapReduce:分布式数据处理模型和执行环境,运行于大型商用机集群

HDFS:分布式文件系统,运行于大型商用机集群

Pig: 数据流语言和运行环境,用以探究非常庞大的数据集。Pig运行在MapReduce和HDFS集群上。

Hive : `一种分布式的按列存储的数据仓库。Hiv管理HDFS中村存储的数据,并提供基于SQL的查询语言(由运行时引擎翻译成MapReduce作业)用以查询数据。

HBase:一种分布式,按列存储的数据库。HBasede 批量式计算和点查询(随机读取)。

ZooKeeper:一种分布式的可用性高的协调服务。Zookeeper提供分布式锁子类的基本服务用于构建分布式应用

Sqoop:该工具用于在结构化数据存储和HDFS之间高效批量传输数据

Oozie:该服务用于运行和跳读Hadoop作业(如MapReduce,Pig,Hive及Sqoop作业)
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: