spark内核揭秘-05-SparkContext核心源码解析初体验
2015-01-19 15:08
351 查看
SparkContext在获得了一系列的初始化信息后开始创建并启动TaskScheduler实例:
进入createTaskScheduler方法:
我们看一下其Standalone的方式:
在上述代码中首先实例化一个TaskSchedulerImpl:
然后构建出了masterUrls:
接着创建出关键的backend:
进入SparkDeploySchedulerBackend实现:
从以上截图可以看出来,SparkDeploySchedulerBackend核心是为了启动CoarseGrainedExecutorBackend
此处使用了Akka技术进行不同机器之间的通信,CoarseGrainedExecutorBackend是具体在Worker上执行具体的任务的进程的代表,所以我们的backend实例就是用来提交任务给Executor的:
其实CoarseGrainedExecutorBackend是Executor的代理人,能够完成很多任务,例如启动一个任务:LaunchTask
回到SparkContext的Standalone的方式的代码处:
接着代码是把backend传给了TaskSchedulerImpl的initialize方法中:
在上述代码中显示处理调度模式 例如FIFO和Fair的模式。
在代码块的最后返回实例化后的backend, scheduler:
PS:妈蛋的 公司破网,spark源码没下载成功,只能在github上面看了,蛋疼
进入createTaskScheduler方法:
我们看一下其Standalone的方式:
在上述代码中首先实例化一个TaskSchedulerImpl:
然后构建出了masterUrls:
接着创建出关键的backend:
进入SparkDeploySchedulerBackend实现:
从以上截图可以看出来,SparkDeploySchedulerBackend核心是为了启动CoarseGrainedExecutorBackend
此处使用了Akka技术进行不同机器之间的通信,CoarseGrainedExecutorBackend是具体在Worker上执行具体的任务的进程的代表,所以我们的backend实例就是用来提交任务给Executor的:
其实CoarseGrainedExecutorBackend是Executor的代理人,能够完成很多任务,例如启动一个任务:LaunchTask
回到SparkContext的Standalone的方式的代码处:
接着代码是把backend传给了TaskSchedulerImpl的initialize方法中:
在上述代码中显示处理调度模式 例如FIFO和Fair的模式。
在代码块的最后返回实例化后的backend, scheduler:
PS:妈蛋的 公司破网,spark源码没下载成功,只能在github上面看了,蛋疼
相关文章推荐
- spark内核揭秘-05-SparkContext核心源码解析初体验
- spark内核揭秘-06-TaskSceduler启动源码解析初体验
- spark内核揭秘-06-TaskSceduler启动源码解析初体验
- spark内核揭秘-01-spark内核核心术语解析
- spark内核揭秘-07-DAGScheduler源码解读初体验
- spark内核揭秘-07-DAGScheduler源码解读初体验
- Spark内核源码深度剖析:sparkContext初始化的源码核心
- spark内核揭秘-01-spark内核核心术语解析
- Scala 深入浅出实战经典 第65讲:Scala中隐式转换内幕揭秘、最佳实践及其在Spark中的应用源码解析
- Scala中隐式转换初体验实战详解以及隐式转换在Spark中的应用源码解析之Scala学习笔记-49
- 第66讲:Scala并发编程实战初体验及其在Spark源码中的应用解析
- Scala并发编程实战初体验及其在Spark源码中的应用解析之Scala学习笔记-56
- 第66讲:Scala并发编程实战初体验及其在Spark源码中的应用解析
- spark内核揭秘-03-spark核心组件
- spark视频-Spark内核源码深度解析
- 第45讲:Scala中Context Bounds代码实战及其在Spark中的应用源码解析学习笔记
- spark SQL源码阅读002——sql.core包核心类——002执行SQL语法2次解析SQL词(analyse)
- Scala中隐式转换内幕操作规则揭秘、最佳实践及其在Spark中的应用源码解析之Scala学习笔记-55
- 第66讲:Scala并发编程实战初体验及其在Spark源码中的应用解析
- spark内核揭秘-13-Worker中Executor启动过程源码分析