一:课程介绍
1:理论
1.1:yarn的基础结构
1.2:yarn的工作机制
1.3:MapReduce/HDFS/Yarn
1.4:调度器和调度算法
1.4.1:FIFO
1.4.2:容量调度器
1.4.3:公平调度器
1.5:yarn在生产环境下需要配置哪些参数
1.6:命令行操作yarn
2:怎么玩
2.1:生产环境下参数怎么配置
2.2:容量调度器在生产环境配置
2.3:公平调度器在生产环境配置
2.4:yarn的tool接口
第一章:Yarn资源调度器
1:如何管理集群资源
2:如何给任务合理分配资源
Yarn是一个资源调度平台,负责为运算程序提供服务器运算资源,相当于一个分布式的操作系统平台 ,而 MapReduce等运算程序则相当于运行于 操作系统之上的应用程序。负责集群资源的管理以及合理的分配资源。
3:基础架构:yarn主要由ResourceManager、NodeManager、ApplicationMaster、Container等组件构成。ResouceManager是整个集群的老大,NodeManager是单台服务器的老大,ApplicationMaster是一个作业的老大,Container是相应的容器。

4:工作机制

5:作业提交全过程(HDFS、MapReduce、Yarn三者关系)

6:yarn调度器和调度算法
Hadoop作业调度器主要有三种: FIFO、 容量( Capacity Scheduler 和 公平( Fair Scheduler 。 Apache Hadoop3.1.3默认 的资源调度器是 Capacity Scheduler。
6.1:FIFO先进先出调度器

6.2:容量调度器


6.3:公平调度器


队列案例:
作业案例:


本文详细介绍了YARN的基础结构、工作原理和MapReduce、HDFS、YARN之间的关系。重点探讨了YARN的三种调度器——FIFO、容量调度器和公平调度器的配置与应用,包括在生产环境中的参数调整和实际案例分析。通过对YARN调度器的深入理解,读者将能够更好地管理和优化Hadoop集群资源。

325

被折叠的 条评论
为什么被折叠?



