Hadoop 集群 Hive 部署,安装mysql metastore
2017-03-14 21:13
609 查看
Hadoop 集群 Hive 部署,安装mysql metastore
一,1,下载解压好apache-hive-1.2.1-bin.tar.gz,进入bin目录启动hive。即可启动hive。
2,但是在启动一个hive后,再重新启动一个hive时就会报出以下错误
另一个Derby接口被启动了。
原因是:Hive 将元数据存储在数据库中(metastore),目前只支持 mysql、derby。Hive 中的元数据包括表的名字,表的列和分区及其属性,表的属性(是否为外部表等),表的数据所在目录等。metastore默认使用内嵌的derby数据库作为存储引擎,Derby引擎的缺点:一次只能打开一个会话。
不过但你在另一个目录打开hive时,又可以正常启动
看起来没有什么问题,但是两个不同的目录中都产生了metastore_db,并且两个metastore_db所存储的元数据是不同,这就造成数据不同!!!
所以我们采用Mysql作为外置存储引擎,多用户同时访问 !!
二,Hive配置Mysql作为metastore
1,安装配置Mysql。这个可以参考我之前的博文,里面有具体步骤!
2,配置hive
在conf目录下 mv hive-default.xml.template hive-site.xml
修改hive-site.xml(删除所有内容,只留一个)
<configuration></configuration>
添加如下内容:
<property> <name>javax.jdo.option.ConnectionURL</name> <value>jdbc:mysql://hadoop00:3306/hive?createDatabaseIfNotExist=true&useSSL=false</value> <description>JDBC connect string for a JDBC metastore</description> </property> <property> <name>javax.jdo.option.ConnectionDriverName</name> <value>com.mysql.jdbc.Driver</value> <description>Driver class name for a JDBC metastore</description> </property> <property> <name>javax.jdo.option.ConnectionUserName</name> <value>用户名</value> <description>username to use against metastore database</description> </property> <property> <name>javax.jdo.option.ConnectionPassword</name> <value>登录密码</value> <description>password to use against metastore database</description> </property>
3,将mysql的连接mysql-connector-java-5.1.40-bin.jar包拷贝到$HIVE_HOME/lib目录下。
4,可能会出现MySQL的访问权限问题,执行下面的语句 *.*:所有库下的所有表%:任何IP地址或主机都可以连接)
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '登录密码' WITH GRANT OPTION;
FLUSH PRIVILEGES;
5,重新启动hive,并创建一个student表
打开MySQL的界面,多了一个hive数据库
TBLS表保存创建表信息。COLUMNS_V2表中保存创建的表的列属性,SDS表保存创建的新表在HDFS的存储路径。
并且可以进行多用户访问!
如果有错误,请大家指出!!
相关文章推荐
- hadoop集群配置之hive1.2.0安装部署(远程mysql)
- 搭建3个节点的hadoop集群(完全分布式部署)--2安装mysql及hive
- hadoop集群配置之hive1.2.0安装部署(远程mysql)
- hadoop集群配置之hive1.2.0安装部署(远程mysql)
- hadoop集群配置之hive1.2.0安装部署(远程mysql)
- ambari离线方式安装Hive不能连接mysql和不能启动hive metastore&hiveserver2
- Hadoop集群搭建与MySQL搭建和Hive安装
- hive安装过程:metastore(元数据存储)的三种方式之远端mysql方式
- hive0.13.1安装-mysql server作为hive的metastore
- hive+mysql安装、hive.metastore.local属性的真正用途
- CDH5.11.0安装启动hive过程org.apache.hadoop.hive.metastore.HiveMetaException: Failed to load driver
- Hadoop+hive集群安装部署 (二)
- hive安装过程:metastore(元数据存储)的三种方式之本地mysql方式
- hadoop分布式集群hive-mysql的安装配置
- centos6.8平台上安装hive(基于Mysql6.5 和hadoop2.7.3伪分布集群下)
- [原创] Centos 安装部署 Hadoop 集群和 hive
- 基于hadoop集群的hive 安装(mysql,derby)
- Hive环境的安装部署(完美安装)(集群内或集群外都适用)(含卸载自带mysql安装指定版本)
- HIVE安装系列之一:在Linux中安装mysql,为其作为hive的metastore做准备
- CentOS64位6.4下Hadoop2.7.1、Mysql5.5.46、Hive1.2.1、Spark1.5.0的集群环境部署