SparkSQL ThriftServer服务的使用和程序中JDBC的连接
2017-04-25 18:44
477 查看
一:使用
1.实质
提供JDBC/ODBC连接的服务
服务运行方式是一个Spark的应用程序,只是这个应用程序支持JDBC/ODBC的连接, 所以:可以通过应用的4040页面来进行查看操作
2.启动服务
3.配置(已经被隐含)
1. 配置thriftserver2的ip地址和端口号
修改hive-site.xml文件
hive.server2.thrift.port=10000
hive.server2.thrift.host=localhost
2. 集成Hive环境(类似SparkSQL)
3. 启动服务
$ sbin/start-thriftserver.sh
$ sbin/stop-thriftserver.sh
4. 测试
二:测试
1.前提
需要开启的服务,metastore,thriftserver
2.测试
命令行测试,使用beeline脚本连接
3.界面(4040端口)
4.测试sql语句
测试一:
测试二:
三:程序
1.建包
2.添加依赖包
3.程序
4.运行结果
1.实质
提供JDBC/ODBC连接的服务
服务运行方式是一个Spark的应用程序,只是这个应用程序支持JDBC/ODBC的连接, 所以:可以通过应用的4040页面来进行查看操作
2.启动服务
3.配置(已经被隐含)
1. 配置thriftserver2的ip地址和端口号
修改hive-site.xml文件
hive.server2.thrift.port=10000
hive.server2.thrift.host=localhost
2. 集成Hive环境(类似SparkSQL)
3. 启动服务
$ sbin/start-thriftserver.sh
$ sbin/stop-thriftserver.sh
4. 测试
二:测试
1.前提
需要开启的服务,metastore,thriftserver
2.测试
命令行测试,使用beeline脚本连接
3.界面(4040端口)
4.测试sql语句
测试一:
测试二:
三:程序
1.建包
2.添加依赖包
3.程序
1 package com.ibeifeng.bigdata.spark.sql 2 3 import java.sql.DriverManager 4 5 /** 6 * Created by Administrator on 2017/4/25. 7 */ 8 object ThriftserverDemo { 9 def main(args: Array[String]):Unit= { 10 //add driver 11 val driver="org.apache.hive.jdbc.HiveDriver" 12 Class.forName(driver) 13 14 //get connection 15 val (url,username,userpasswd)=("jdbc:hive2://linux-hadoop3.ibeifeng.com:10000","beifeng","beifeng") 16 val connection=DriverManager.getConnection(url,username,userpasswd) 17 18 //get statement 19 connection.prepareStatement("use db_emp").execute() 20 val sql="select * from dept d join emp e on d.deptno=e.deptno" 21 val statement=connection.prepareStatement(sql) 22 23 //get result 24 val rs=statement.executeQuery() 25 while(rs.next()){ 26 println(s"${rs.getString(1)}:${rs.getString(2)}") 27 } 28 29 //close 30 rs.close() 31 statement.close() 32 connection.close() 33 } 34 }
4.运行结果
相关文章推荐
- SparkSQL ThriftServer服务的使用和程序中JDBC的连接
- SparkSQL使用之Thrift JDBC server
- sparkSQL里 sql语句,dataframe,Thrift Server JDBC都可以实现对数据的查询,过滤等操作, 哪这3种情况分别是什么情况下使用
- SparkSQL使用之JDBC代码访问Thrift JDBC Server
- 在JBuilder中使用com.microsoft.jdbc.sqlserver.SQLServerDriver连接sql数据库
- spark SQL Running the Thrift JDBC/ODBC server
- 分布式sparkSQL引擎应用:从远程通过thriftServer连接spark集群处理hive中的数据
- java.lang.ClassNotFoundException: com.microsoft.jdbc.sqlserver.SQLServerDriver Eclipse3.1 数据库连接测试程序(SQL Server 2000 Driver for JDBC Service Pack 3 安装测试)
- com.microsoft.sqlserver.jdbc.SQLServerException: 驱动程序无法通过使用安全套接字层(SSL)加密与 SQL Server 建立 安全连接。错误:“SQL
- SparkSQL ThriftServer配置及连接测试
- 在JBuilder中使用com.microsoft.jdbc.sqlserver.SQLServerDriver连接sql数据库
- 使用 Microsoft JDBC Driver for SQL Server 连接到SQL Server的5种方式
- myeclipse使用Microsoft JDBC Driver 6.0 for SQL Server连接sql
- 使用JDBC 连接 Microsoft SQL Server 2000
- com.microsoft.sqlserver.jdbc.SQLServerException: 驱动程序无法通过使用安全套接字层(SSL)加密与 SQL Server 建立安全连接。错误:“java
- 在JBuilder中使用com.microsoft.jdbc.sqlserver.SQLServerDriver连接sql数据库
- 在JBuilder中使用com.microsoft.jdbc.sqlserver.SQLServerDriver连接sql数据库
- JAVA使用JDBC本地连接Microsoft Sql Server 2008数据库 踩坑实录
- spark 启动thrift server 支持 jdbc连接
- com.microsoft.sqlserver.jdbc.SQLServerException: 驱动程序无法使用安全套接字层(SSL)加密与 SQL Server 建立安全连接。错误: RSA pr