您的位置:首页 > 其它

作业提交过程分析(源码)

2016-09-25 16:28 316 查看
  


[b]sc.textFile("README.md").flatMap(line => line.split(" ")).map(word => (word,1)).reduceByKey(_ + _).collect[/b]

[b]sc.textFile("README.md").flatMap(line => line.split(" ")).map(word => (word,1)).reduceByKey((a,b) => a + b).collect[/b]

























































总结:



第一个stage :

   HadoopRDD -> MapPartitionRDD -> MapPartitionsRDD -> MapPartitionsRDD -> MapPartitionsRDD



第二个stage :

    Stage shuffledRDD -> MapPartitionsRDD



















内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: