您的位置:首页 > 其它

spark--actions算子--reduce

2017-07-12 18:32 218 查看
import org.apache.spark.{SparkConf, SparkContext}

/**
* Created by liupeng on 2017/6/16.
*/
object A_reduce {
System.setProperty("hadoop.home.dir","F:\\hadoop-2.6.5")

def main(args: Array[String]): Unit = {
val conf = new SparkConf().setAppName("reduce_test").setMaster("local")
val sc = new SparkContext(conf)
//准备一下数据,有一个集合,通过reduce来进行累加
val list = List(1, 2, 3, 4, 5)
val rdd = sc.parallelize(list)

//reduce它需要两个参数并返回一个,来聚合数据集的元素。
val sum = rdd.reduce((x,y) => x + y)
println(sum)
}
}

运行结果:
15
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  spark actions reduce