Hadoop项目
2016-07-21 19:58
232 查看
Common:一系列组件和接口,用于分布式文件系统和通用I/O(序列化,Java RPC 和持久化数据结构)
Avro:一种序列化系统,用于支持高效,跨语言的RPC和持久化数据存储
MapReduce:分布式数据处理模型和执行环境,运行于大型商用机集群
HDFS:分布式文件系统,运行于大型商用机集群
Pig: 数据流语言和运行环境,用以探究非常庞大的数据集。Pig运行在MapReduce和HDFS集群上。
Hive : `一种分布式的按列存储的数据仓库。Hiv管理HDFS中村存储的数据,并提供基于SQL的查询语言(由运行时引擎翻译成MapReduce作业)用以查询数据。
HBase:一种分布式,按列存储的数据库。HBasede 批量式计算和点查询(随机读取)。
ZooKeeper:一种分布式的可用性高的协调服务。Zookeeper提供分布式锁子类的基本服务用于构建分布式应用
Sqoop:该工具用于在结构化数据存储和HDFS之间高效批量传输数据
Oozie:该服务用于运行和跳读Hadoop作业(如MapReduce,Pig,Hive及Sqoop作业)
Avro:一种序列化系统,用于支持高效,跨语言的RPC和持久化数据存储
MapReduce:分布式数据处理模型和执行环境,运行于大型商用机集群
HDFS:分布式文件系统,运行于大型商用机集群
Pig: 数据流语言和运行环境,用以探究非常庞大的数据集。Pig运行在MapReduce和HDFS集群上。
Hive : `一种分布式的按列存储的数据仓库。Hiv管理HDFS中村存储的数据,并提供基于SQL的查询语言(由运行时引擎翻译成MapReduce作业)用以查询数据。
HBase:一种分布式,按列存储的数据库。HBasede 批量式计算和点查询(随机读取)。
ZooKeeper:一种分布式的可用性高的协调服务。Zookeeper提供分布式锁子类的基本服务用于构建分布式应用
Sqoop:该工具用于在结构化数据存储和HDFS之间高效批量传输数据
Oozie:该服务用于运行和跳读Hadoop作业(如MapReduce,Pig,Hive及Sqoop作业)
相关文章推荐
- nginx使用logrotate对日志进行分割
- 嵌入式开发第11天 (linux-c 环境搭建,命令)
- tomcat配置文件server.xml详解
- 【ANSI转UTF-8】用iconv命令解决Mac/Linux下编码问题
- tomcat配置文件server.xml详解
- OpenCV使用FileStorage保存Mat数据
- 面试题总结-Linux常用命令
- [shell基础]——sed命令
- Win32下session和window station以及desktop一些介绍和应用
- Linux Wireless Networking: a short walk
- Linux命令
- 在VM中安装linux Red Hat7.0
- Tomcat请求处理(一) -- 服务器端口监听
- OpenStack glance 认证函数
- opencv读取摄像头数据
- 在任意目录下使用某个shell脚本
- opencv——操作图像中每一个像素
- OpenLayers系列之-Geometry格式转换
- centos7上memcahed安装
- Linux Firewall ---iptables