Spark在IDEA中打jar包,并在集群上运行(包括local模式,standalone模式的集群运行)
2017-02-09 12:17
323 查看
一:打包成jar
1.修改代码
2.使用maven打包
但是目录中有中文,会出现打包错误
3.第二种方式
4.下一步
5.下一步
6.下一步
7.下一步
8.下一步
9.完成
二:在集群上运行(local模式)
1.上传
2.运行(local模式)
3.运行结果
三:集群上运行(standalone模式)
1.DeoloyMode
表示Driver执行的位置。
client如果是参数,则表示driver执行在执行spark-submit命令的机器上。
cluster是参数,则表示driver会运行在集群中选择的某一台机器上。
2.运行(standalone模式的client)
3.结果(8080端口)
4.运行(standalone模式的cluster)
5.结果
三:介绍模式
1.client
2.cluster
1.修改代码
2.使用maven打包
但是目录中有中文,会出现打包错误
3.第二种方式
4.下一步
5.下一步
6.下一步
7.下一步
8.下一步
9.完成
二:在集群上运行(local模式)
1.上传
2.运行(local模式)
3.运行结果
三:集群上运行(standalone模式)
1.DeoloyMode
表示Driver执行的位置。
client如果是参数,则表示driver执行在执行spark-submit命令的机器上。
cluster是参数,则表示driver会运行在集群中选择的某一台机器上。
2.运行(standalone模式的client)
3.结果(8080端口)
4.运行(standalone模式的cluster)
5.结果
三:介绍模式
1.client
2.cluster
相关文章推荐
- Spark - IDEA 打包 Scala,Spark Local 模式运行
- Local模式下开发第一个Spark程序并运行于集群环境
- Spark2.2.0 idea引入第三方 集群运行时 jar 无法找到类错误
- IDEA【基本配置1】配置SBT 和 scala 并在spark环境中进行wordcount测试(spark集群运行模式)
- 蜗龙徒行-Spark学习笔记【五】IDEA中集群运行模式的配置
- 在spark开发环境中使用Standalone模式调试集群运行
- Spark的运行模式(1)--Local和Standalone
- 【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群-配置Hadoop伪分布模式并运行Wordcount示例(1)
- spark-0.8.0源码剖析--standalone模式集群并行和单机并行
- Spark集群运行模式
- spark0.9.1集群模式运行graphx测试程序(LiveJournalPageRank,新增Connected Components)
- 第8课:彻底实战详解使用IDE开发Spark程序--集群模式运行
- 【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群-配置Hadoop单机模式并运行Wordcount(1)
- 【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群-配置Hadoop伪分布模式并运行Wordcount示例(1)
- spark学习7之IDEA下搭建Spark本地编译环境并上传到集群运行
- Spark1.6.1集群环境搭建——Standalone模式HA
- 编写第一个用scala写的spark任务,用sbt打包成jar,并单机模式下运行
- spark0.9.1集群模式运行graphx测试程序(LiveJournalPageRank,新增Connected Components)
- spark源码学习(六):standalone模式的cluster集群源码解读
- Spark源码阅读笔记:Standalone模式集群核心角色代码浅析