前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站:https://www.captainai.net/dongkelun
前言
在第五篇文章 Yarn Client 模式提交流程(五) 中,我们分析了 Yarn Client 模式的完整提交流程。本文将继续分析 Spark 的另一种常用部署模式——Standalone Client 模式的提交流程。
Standalone 模式是 Spark 自带的集群管理器,不依赖 YARN、Mesos 等外部资源调度系统。其架构包含 Master(集群管理器)和 Worker(工作节点)两个角色,Master 负责资源调度,Worker 负责执行计算任务。
关于 Standalone 集群的搭建与配置,可参考之前的文章 Spark Standalone 集群配置。Master 和 Worker 的启动源码分析将在后续文章中详细介绍。
订阅专栏 解锁全文
3万+

被折叠的 条评论
为什么被折叠?



