作业提交过程分析(源码)
2016-09-25 16:28
316 查看
[b]sc.textFile("README.md").flatMap(line => line.split(" ")).map(word => (word,1)).reduceByKey(_ + _).collect[/b]
[b]sc.textFile("README.md").flatMap(line => line.split(" ")).map(word => (word,1)).reduceByKey((a,b) => a + b).collect[/b]
总结:
第一个stage :
HadoopRDD -> MapPartitionRDD -> MapPartitionsRDD -> MapPartitionsRDD -> MapPartitionsRDD
第二个stage :
Stage shuffledRDD -> MapPartitionsRDD
相关文章推荐
- Hibernate项目用Maven创建(转)
- 前端设计师们最常用的JS代码汇总
- 判断平年闰年
- Jenkins构建Android项目持续集成之findbugs的使用
- leetcode ----394. Decode String
- Android初级学习之Intent的简单使用
- orc的plsql和动态sql
- WFI
- 微信底部菜单栏实现的几种方法 -- Android学习之路
- 3456: 城市规划
- 从Java的角度看前端JS各种框架
- java 中基本数据类型在内存中占据的存储大小
- SQL mybatis入门
- oracleorc存储过程&函数&触发器
- 3分频器 verilog解析
- oracle的sql
- Hibernate中save()和persist()区别
- C# Tcp协议收发数据(TCPClient发,Socket收)
- HTTPS工作原理和TCP握手机制
- 回文检测(包含中文与字符)