spark 访问hive表报错
2018-10-25 18:08
399 查看
spark访问hive表: 在spark/conf目录下:引入hive配置文件
ln -sf /soft/hive/conf/hive-site.xml /soft/spark/conf/
错误1:
Hive Schema version 1.2.0 does not match metastore’s schema version 2.3.0
原因: hive版本不一致, 查看hive在mysql中的注册信息如下
解决办法: 降低hive的版本, 修改 SCHEMA_VERSION的值为2.1.1
错误2:
Exception thrown obtaining schema column information from datastore
org.datanucleus.exceptions.NucleusDataStoreException: Exception thrown obtaining schema column information from datastore…
Caused by: java.sql.SQLException: Column name pattern can not be NULL or empty.
原因: 是mysql驱动版本太高,删除后重新导入低版本的驱动
重启spark-shell, 加载hive文件成功!
相关文章推荐
- SparkSQL On Yarn with Hive,操作和访问Hive表
- SparkSQL On Yarn with Hive,操作和访问Hive表
- spark 2.1.1访问hive2.3.0
- SparkSQL On Yarn with Hive,操作和访问Hive表
- SparkSQL On Yarn with Hive,操作和访问Hive表
- SparkSQL On Yarn with Hive,操作和访问Hive表
- Hive在spark2.0.0启动时无法访问../lib/spark-assembly-*.jar: 没有那个文件或目录的解决办法
- SparkSQL On Yarn with Hive,操作和访问Hive表
- SparkSQL On Yarn with Hive,操作和访问Hive表
- spark sql 访问hive数据时找不mysql的解决方法
- Hive在spark2.0.0启动时无法访问../lib/spark-assembly-*.jar: 没有那个文件或目录的解决办法
- SparkSQL On Yarn with Hive,操作和访问Hive表
- spark sql之访问 hive 和 MySQL
- SparkSQL On Yarn with Hive,操作和访问Hive表
- Spark&Hive:如何使用scala开发spark访问hive作业,如何使用yarn resourcemanager。
- Hive在spark2.0.0启动时无法访问spark-assembly-*.jar的解决办法
- IDEA Spark HiveContext访问Hive
- SparkSQL On Yarn with Hive,操作和访问Hive表
- Hive在spark2.0.0启动时无法访问spark-assembly-*.jar的解决办法
- spark-sql访问hive的问题记录