hive与Hbase整合

大数据工具篇之Hive与HBase整合完整教程

一、引言
　　最近的一次培训，用户特意提到Hadoop环境下HDFS中存储的文件如何才能导入到HBase，关于这部分基于HBase Java API的写入方式，之前曾经有过技术文章共享，本文就不再说明。本文基于Hive执行HDFS批量向HBase导入数据，讲解Hive与HBase的整合问题。这方面的文章已经很多，但是由于版本差异，可操作性不大，本文采用的版本均基于以下版本说明中的版本。
二、版本说明

序号	软件	版本
1	Hive	0.10.0
2	HBase	0.94.0
3	Hadoop	1.0.1

　　
三、配置指南
　　3.1 创建配置文件
　　cp conf/hive-default.xml.template hive-default.xml
　　cp conf/hive-default.xml.template hive-site.xml
　　3.2 修改配置文件
　　基于hive-default.xml.template进行拷贝复制的hive-site.xml文件有问题，主要集中在<description></description>标签不配对的情况，需要根据错误提示进行修改，修改完成后的配置文件如下所示：　　


View
Code

　　3.3 新增配置属性-hive.aux.jars.path　　

1 <property>
2     <name>hive.aux.jars.path</name>
3     <value>file:///home/hadoop/source/hive/lib/hive-hbase-handler-0.10.0.jar,file:///home/hadoop/source/hive/lib/hbase-0.94.0.jar,file:///home/hadoop/source/hive/lib/zookeeper-3.4.3.jar</value>
4 </property>

　　3.4 拷贝Jar包到Hive/lib目录
　　hbase-0.94.0.jar，zookeeper-3.4.3.jar
四、测试脚本-创建HBase能够识别的数据表

1 CREATE TABLE hbase_table_1(key int, value string)
2 STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
3 WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,cf1:val")
4 TBLPROPERTIES ("hbase.table.name" = "xyz");

五、异常解决
　　5.1 错误提示

java.lang.NoClassDefFoundError: com/google/protobuf/Message
at org.apache.hadoop.hbase.io.HbaseObjectWritable.(HbaseObjectWritable.java
…

　　5.2 解决方案　　
　　将$HBASE_HOME/lib/protobuf-java-2.4.0a.jar 拷贝到 $HIVE_HOME/lib/.
六、运行效果　　

[hadoop@hadoop1 lib]$ hive -hiveconf hbase.zookeeper.quorum=hadoop1
WARNING: org.apache.hadoop.metrics.jvm.EventCounter is deprecated. Please use org.apache.hadoop.log.metrics.EventCounter in all the log4j.properties files.
Logging initialized using configuration in jar:file:/home/hadoop/source/hive/lib/hive-common-0.10.0.jar!/hive-log4j.properties
Hive history file=/tmp/hadoop/hive_job_log_hadoop_201401012315_758621762.txt
hive> CREATE TABLE hbase_table_1(key int, value string)
> STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
> WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,cf1:val")
> TBLPROPERTIES ("hbase.table.name" = "xyz");
OK
Time taken: 23.246 seconds
hive> show tables;
OK
hbase_table_1
Time taken: 1.346 seconds

作者：张子良

出处：http://www.cnblogs.com/hadoopdev