Spark主要有三种运行模式：
- 本地（单机）模式
本地模式通过多线程模拟分布式计算，通常用于对应用程序的简单测试。本地模式在提交应用程序后，将会在本地生成一个名为SparkSubmit的进程，该进程既负责程序的提交，又负责任务的分配、执行和监控等。
- Spark Standalone模式
使用Spark自带的资源调度系统，资源调度是Spark自己实现的。
- Spark On YARN模式
以YARN作为底层资源调度系统以分布式的方式在集群中运行。
Spark Standalone架构
Spark Standalone的两种提交方式
Spark Standalone模式为经典的Master/Slave架构，资源调度是Spark自己实现的。在Standalone模式中，根据应用程序提交的方式不同，Driver（主控进程）在集群中的位置也有所不同。应用程序的提交方式主要有两种：client和cluster，默认是client。可以在向Spark集群提交应用程序时使用--deploy-mode参数指定提交方式。
- client提交方式
集群的主节点称为Master节点，在集群启动时会在主节点启动一个名为Master的守护进程；从节点称为Worker节点，在集群启动时会在各个从节点上启动一个名为Worker的守护进程。
Spark在执行应用程序的过程中会启动Driver和Executor两种JVM进程。
Driver为主控进程，负责执行应用程序的main()方法，创建SparkContext对象（负责与Spark集群进行交互），提交Spark作业，并将作业转化为Task（一个作业由多个Task任务组成），然后在各个Executor进程间对Task进行调度和监控。通常用SparkContext代表Driver。如图所示的架构中，<span style="color:red">Spark会在客户端启动一个名为SparkSubmit的进程，Driver程序则运行于该进程。</span>
Executor为应用程序运行在Worker节点上的一个进程，由Worker进程启动，负责执行具体的Task，并存储数据在内存或磁盘上。每个应用程序都有各自独立的一个或多个Executor进程。
- cluster提交方式
Standalone以cluster提交方式提交应用程序后，客户端仍然会产生一个名为SparkSubmit的进程，但是该进程会在应用程序提交给集群之后就立即退出。当应用程序运行时，<span style="color:red">Master会在集群中选择一个Worker启动一个名为DriverWrapper的子进程，该子进程即为Driver进程。</span>
Spark Standalone模式的搭建
进入Spark安装根目录，进入conf目录，执行以下操作：
(1)：复制spark-env.sh.template文件为spark-env.sh文件
```
cp spark-env.sh.template spark-env.sh
```
(2): 修改spark-env.sh文件，添加以下内容：
```
export JAVA_HOME=/export/servers/jdk1.8.0_161
export SPARK_MASTER_HOST=my2308-host
export SPARK_MASTER_PORT=7077
```
- JAVA_HOME：指定JAVA_HOME的路径。若节点在/etc/profile文件中配置了JAVA_HOME，则该选项可以省略，Spark启动时会自动读取。为了防止出错，建议此处将该选项配置上。
- SPARK_MASTER_HOST：指定集群主节点（Master）的主机名。
- SPARK_MASTER_PORT：指定Master节点的访问端口，默认为7077。
(3): 启动Spark集群
进入Spark安装目录，执行以下命令，启动Spark集群：
```
sbin/start-all.sh
```
启动完毕后，分别在各节点执行jps命令，查看启动的Java进程。若存在Master进程和Worker进程，则说明集群启动成功。
Spark On YARN架构
Spark On YARN的两种提交方式
Spark On YARN模式遵循YARN的官方规范，YARN只负责资源的管理和调度，运行哪种应用程序由用户自己决定，因此可能在YARN上同时运行MapReduce程序和Spark程序，YARN对每一个程序很好地实现了资源的隔离。这使得Spark与MapReduce可以运行于同一个集群中，共享集群存储资源与计算资源。
Spark On YARN模式与Standalone模式一样，也分为client和cluster两种提交方式。
- client提交方式
<span style="color:red">客户端会产生一个名为SparkSubmit的进程，Driver程序则运行于该进程中。</span>
- cluster提交方式
<span style="color:red">ResourceManager会在集群中选择一个NodeManager进程启动一个名为ApplicationMaster的子进程，该子进程即为Driver进程（Driver程序运行在其中）。</span>
Spark应用程序的提交
Spark提供了一个客户端应用程序提交工具spark-submit，使用该工具可以将编写好的Spark应用程序提交到Spark集群。
**spark-submit的使用格式：**
```
bin/spark-submit [options] <app jar> [app options]
```
options：表示传递给spark-submit的控制参数；
app jar：表示提交的程序jar包（或Python脚本文件）所在位置；
app options：表示jar程序需要传递的参数，例如main()方法中需要传递的参数。