当前位置: 首页> 娱乐> 影视 > 十大深夜看黄禁用免费撒娇_企业网站的特点是什么_市场营销策略有哪4种_网站优化外包价格

十大深夜看黄禁用免费撒娇_企业网站的特点是什么_市场营销策略有哪4种_网站优化外包价格

时间:2025/9/25 13:49:44来源:https://blog.csdn.net/sx_1706/article/details/143952033 浏览次数:0次
十大深夜看黄禁用免费撒娇_企业网站的特点是什么_市场营销策略有哪4种_网站优化外包价格

Spark—Driver进程
本地运行时,主代码类进程就是driver进程
集群运行时,client发送请求给Master,Master在随机worker节点上(满足资源)启动driver。
driver挂掉——>Executors挂掉——>application就挂掉了

客户端driver的启动

根据提交命令,启动Driver的分别对应了不同的mainclass.

如果是client模式,那么在本地直接执行我们的主代码类,该进程就是Driver进程。

如果是standalone cluster模式,客户端会向maste发送http请求,master稍后会在worker上启动单独的Driver进程。

————————

Master为Driver调度资源,通知Worker启动Driver

资源调度的实现在schedule(),实现相对于Executor的资源分配要简单的多,因为Driver只有一个进程,只在其中一个worker上启动即可。实现如下:

1、首先对所有worker的shuffle随机排列,然后从第一个worker开始轮询,如果worker上的内存和cores能够满足Driver的需求,那么就在该worker上启动Driver。

2、在该worker上启动Driver,实现在launchDriver()方法,在launchDriver()中,就是向worker发送消息LaunchDriver

——————

Worker开始启动Driver进程

Worker在接收到Master发的LaunchDriver消息后,便会开始启动Driver进程,实现如下:

1、构造DriverRunner,由DriverRunner负责运行Driver命令的启动

2、DriverRunner会新建一个线程,由这个线程去负责启动和监控Driver进程

3、从本地拷贝依赖的任务jar(我们自己的jar包)到Driver的工作目录

4、如果设置了Driver进程的监控,–supervise参数那么在Driver进程以非0退出码结束时(一般都是异常结束),Worker会重新启动Driver进程。

注意:Driver异常退出了之后所有的Executors也跟着被kill掉了,整个application也就宕掉了。重新启动Driver进程会重新启动一个新的application

参考:Spark源码分析——Driver进程启动源码实现分析

关键字:十大深夜看黄禁用免费撒娇_企业网站的特点是什么_市场营销策略有哪4种_网站优化外包价格

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com

责任编辑: