spark sql
2015-11-05 09:40
435 查看
spark sql
package com.spark.sql import org.apache.spark.SparkConf import org.apache.spark.SparkContext import org.apache.spark.sql.SQLContext object JSONDataSource { def main(args: Array[String]): Unit = { val conf = new SparkConf() .setAppName("JSONDataSource") .setMaster("local") val sc = new SparkContext(conf) val sqlContext = new SQLContext(sc) // 创建学生成绩DataFrame val studentScoresDF = sqlContext.read.json("E:\\spark-1.4.1-bin-hadoop2.4\\examples\\src\\main\\resources\\people.json") // 查询出分数大于80分的学生成绩信息,以及学生姓名 studentScoresDF.registerTempTable("student_scores") val goodStudentScoresDF = sqlContext.sql("select name,age from student_scores where age>=19") val goodStudentNames = goodStudentScoresDF.rdd.map { row => row(0) }.collect() goodStudentNames.map { row => println("-----name----->"+row) } val goodStudentNamesAges = goodStudentScoresDF.rdd.map { row => (row(0),row(0)) }.collect() goodStudentNamesAges.map { row => println("-----name and age----->"+row) } // println(goodStudentNames) } }
相关文章推荐
- 数据持久化And数据库
- Spring-mvc整合mybatis-oracle11g-druid数据源
- oracle 怎么debug
- 解决:Windows 强制升级为8.1之后 Mysql连接不上, VisualSVN Server无服务
- mysql 常用系统函数
- sql模糊查询列名包含某个字符串的列
- oracle中sys和system用户的区别
- ORACLE EM网页无法访问
- sql 管理:内存瓶颈
- SQLite数据库介绍
- 多台tomcat服务的session共享 memcached与redis
- Oracle中PCTFREE, PCTUSED, INITRANS, MAXTRANX参数
- Ceilometer 数据库比较
- 实现数据库自动备份与备份文件转移
- linux下redis安装配置及redis常用命令(实战详细版)
- R语言连接数据库
- 你真的会玩SQL吗?表表达式,排名函数
- WampServer下修改和重置MySQL密码(转)
- Linux - Redis介绍以及安装 (简易版本)
- 查看oracle解析