hive 查询结果转为parquet格式 存入hdfs中
2018-01-10 18:53
267 查看
hive 查询结果转为parquet格式 存入hdfs中 ,
步骤:
1.首先根据我们hive查询结果 ,新建一张表 ,
2.然后,对表结构做修改 ,更改表指定存储格式为parquet ,
3.然后删除之前创建的那装表, 然后新建这张指定存储格式的表,
4.之后把结果插入这个表中。
1、
create table table_parquet as
select j30.* from jpush.tags_30_mac j30 join
(select
case when
substring(d.mac,2,1) in (0,2,4,8)
then d.mac
end as mac
from (
select distinct mac from wifi_location_sniffer3 where y=2017 and m=12 and d=2
) d
) huanp
on huanp.mac=j30.key
2、查看表结构
show create table table_parquet
对步骤2查看的表结构进行修改 主要是stored as parquet 并指定文件存放到hdfs中的位置
CREATE TABLE `20171202_parquet`(
`key` string,
`fosun` map<string,string>,
`jpush` map<string,string>,
`tags` map<string,string>)
stored as parquet
location “hdfs://user/zhangshk/test/hive_to_hdfs”
3、删除之前创建的表
drop table table_parquet
4、hive 查询结果 存入hdfs中 ,到hdfs中查看发现 为parquet文件
insert into `20171202_parquet`
select j30.* from jpush.tags_30_mac j30 join
(select
case when
substring(d.mac,2,1) in (0,2,4,8)
then d.mac
end as mac
from (
select distinct mac from wifi_location_sniffer3 where y=2017 and m=12 and d=2
) d
) huanp
on huanp.mac=j30.key
步骤:
1.首先根据我们hive查询结果 ,新建一张表 ,
2.然后,对表结构做修改 ,更改表指定存储格式为parquet ,
3.然后删除之前创建的那装表, 然后新建这张指定存储格式的表,
4.之后把结果插入这个表中。
1、
create table table_parquet as
select j30.* from jpush.tags_30_mac j30 join
(select
case when
substring(d.mac,2,1) in (0,2,4,8)
then d.mac
end as mac
from (
select distinct mac from wifi_location_sniffer3 where y=2017 and m=12 and d=2
) d
) huanp
on huanp.mac=j30.key
2、查看表结构
show create table table_parquet
对步骤2查看的表结构进行修改 主要是stored as parquet 并指定文件存放到hdfs中的位置
CREATE TABLE `20171202_parquet`(
`key` string,
`fosun` map<string,string>,
`jpush` map<string,string>,
`tags` map<string,string>)
stored as parquet
location “hdfs://user/zhangshk/test/hive_to_hdfs”
3、删除之前创建的表
drop table table_parquet
4、hive 查询结果 存入hdfs中 ,到hdfs中查看发现 为parquet文件
insert into `20171202_parquet`
select j30.* from jpush.tags_30_mac j30 join
(select
case when
substring(d.mac,2,1) in (0,2,4,8)
then d.mac
end as mac
from (
select distinct mac from wifi_location_sniffer3 where y=2017 and m=12 and d=2
) d
) huanp
on huanp.mac=j30.key
相关文章推荐
- hive把hql查询的结果导出到本地或者HDFS上面
- hive 查询结果导入到hdfs中 row format 报错
- hive 查询结果导入 local 与 HDFS
- oracle查询结果存入文件
- Java数据库编程中查询结果的表格式输出
- Sql Server中将Select的查询结果存入一个表!(示例)
- Java数据库编程中查询结果的表格式输出(源代码)
- 保存Hive查询结果的方法
- Hive删表或删除分区HDFS中文件未删除时的查询异常
- mysql 查询结果 导出 excel格式并解决乱码问题
- hive入门们学习:orcFile和parquet存储格式简介
- 如何将hive查询结果导出成txt文件
- hive导出查询结果到本地文件
- hive与json:使用HDFS上的json格式数据建立hive表
- sql查询结果存入DataTable,然后从DataTable取数据
- hive导出查询结果到本地文件
- mysql将查询结果为空的栏目转为0
- 几种保存Hive查询结果的方法
- mysql 查询结果 导出 excel格式并解决乱码问题
- SQLServer2008运用存储过程拆分字符串并查询结果并把结果存入临时表中。