spark 1.3.1 master 源码初探01
2015-07-08 22:15
239 查看
首先打开远程调试:
1.在spark/conf/spark-env.xml里面加入下列代码允许master远程调试
2.IDEA里面创建远程调试配置
3.在服务器上启动master
3.点击debug(小虫子)就可以开始了
入口:
org.apache.spark.deploy.master.Master:865 Line Mian
进入startSystemAndActor,这里会通过一系列安全校验后通过Akka建立Actor
下面跟进AkkaUtils.createActorSystem
尝试启动服务
若是启动失败,重新尝试以及计算端口
开始启动
ActorSystem启动完成,下面开始看启动Master:
主构造器中有意思的代码:
查看Master
preStart中,订阅事件以及检测Worker心跳
执行到这里master启动就差不多了
, 有时间接着总结。
1.在spark/conf/spark-env.xml里面加入下列代码允许master远程调试
[code] export SPARK_MASTER_OPTS="-Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=10000"
2.IDEA里面创建远程调试配置
3.在服务器上启动master
3.点击debug(小虫子)就可以开始了
入口:
org.apache.spark.deploy.master.Master:865 Line Mian
进入startSystemAndActor,这里会通过一系列安全校验后通过Akka建立Actor
下面跟进AkkaUtils.createActorSystem
尝试启动服务
若是启动失败,重新尝试以及计算端口
开始启动
ActorSystem启动完成,下面开始看启动Master:
主构造器中有意思的代码:
查看Master
preStart中,订阅事件以及检测Worker心跳
执行到这里master启动就差不多了
, 有时间接着总结。
相关文章推荐
- 为什么JSP会比Beetl慢
- spark 1.3.1 master 源码初探01 分类: spark 2015-07-08 22:15 386人阅读 评论(0) 收藏
- BeanFactory和ApplicationContext的作用和区别
- 使用onsubmit()验证表单并阻止非法提交(使用jQuery)
- 资江热敏打印二维码指令android
- 股票
- Web项目同时使用Struts2和SpringMVC
- 深入JVM(之一)--Java内存区域与内存溢出异常
- 最优二叉搜索树
- fans-rt 任务调度-堆栈切换篇(2)堆栈模型
- subline2 sftp 安装
- 初次使用MAVEN管理项目,需要注意以下几点,简单总结下
- OSG获取鼠标点选事件的位置
- dedecms整合discuz
- ASP.NET浏览器跨域
- 单例模式
- 第九十七天 how can i 坚持
- InitializingBean和init-method
- OC基础8:分类和协议
- Unity4.x升级5.0出现的32位dll问题