Spark学习（二）-Spark的相关概念

学习Spark，有几个重要的术语需要弄清楚。

Application:用户在spark上构建的程序，包含了driver程序以及集群上的executors.

Driver Program :运行main函数并且创建SparkContext的程序。 客户端的应用程序，DriverProgram类似于hadoop的wordcount程序的main函数。

Cluster Manager 集群的资源管理器，在集群上获取资源的外部服务。 Such as Standalone、Mesos、Yarn。 拿Yarn举例，客户端程序会向Yarn申请计算我这个任务需要多少的内存，多少CPU，etc。 然后Cluster Manager会通过调度告诉客户端可以使用，然后客户端就可以把程序送到每个Worker Node上面去执行了。

Worker Node: 集群中任何一个可以运行spark应用代码的节点。 Worker Node就是物理节点，可以在上面启动Executor进程。

Executor: 在每个WorkerNode上为某应用启动的一个进程，该进程负责运行任务，并且负责将数据存在内存或者磁盘上，每个任务都有各自独立的Executor。

Executor是一个执行Task的容器。它的主要职责是：

1、初始化程序要执行的上下文SparkEnv，解决应用程序需要运行时的jar包的依赖，加载类。

2、同时还有一个ExecutorBackend向cluster

manager汇报当前的任务状态，这一方面有点类似hadoop的tasktracker和task。

总结：Executor是一个应用程序运行的监控和执行容器。

Job: 包含很多task的并行计算，可以认为是Spark RDD 里面的action,每个action的计算会生成一个job。用户提交的Job会提交给DAGScheduler，Job会被分解成Stage和Task。

Stage: 一个Job会被拆分为多组Task，每组任务被称为一个Stage就像Map Stage， Reduce Stage。

Stage的划分在RDD的论文中有详细的介绍，简单的说是以shuffle和result这两种类型来划分。在Spark中有两类task，一类是shuffleMapTask，一类是resultTask，第一类task的输出是shuffle所需数据，第二类task的输出是result，stage的划分也以此为依据，shuffle之前的所有变换是一个stage，shuffle之后的操作是另一个stage。stage的边界就是产生shuffle的地方

Task 被送到executor上的工作单元。 Spark上分为2类task。

1.shuffleMapTask * A ShuffleMapTask divides the elements of an RDD into multiple buckets (based on a partitioner * specified in the ShuffleDependency).

2.resultTask * A task that sends back the output to the driver application.

Partition：Partition类似hadoop的Split，计算是以partition为单位进行的，当然partition的划分依据有很多，这是可以自己定义的，像HDFS文件，划分的方式就和MapReduce一样，以文件的block来划分不同的partition。总而言之，Spark的partition在概念上与hadoop中的split是相似的，提供了一种划分数据的方式。

附录：

RDD的一大卖点就是有依赖关系存储在每一个RDD里面，当某一个RDD计算的时候发现parent RDD的数据丢失了，那它就会从parent的parent RDD重新计算一遍以恢复出parent数据，如果一直没找到，那么就会找到根RDD，有可能是HadoopRDD，那么就会从HDFS上读出数据一步步恢复出来。当然如果完全找不到数据，那么就恢复不出来了。在论文中称之为RDD的lineage信息。



数据本地性是指：确定数据在哪个节点上，就到哪个节点上的Executor上去运行。