hadoop学习视频教程08 - YARN资源管理系统(2)

1、Hadoop讲师：迪伦（北风网版权所有）YARN资源管理系统资源管理系统(2)q YARN基本设计思想q YARN基本架构课程目标课程目标第一代第一代MapReduceMapReduce框架框架第二代第二代MapReduceMapReduce框架框架编程模型编程模型q 为保证编程模型的向下兼容性，MRv2重用了MRv1中的编程模型和数据处理引擎，但运行环境被完全 重写q 编程模型与数据处理引擎 MapReduce应用程序编程接口有两套：新API（mapred）和旧API（mapreduce） 采用MRv1旧API编写的程序可直接运行在MRv2上 采用MRv1新API编写的程序需要使用MRv2编

2、程库重新编译并修改不兼容的参数和返回值q 运行时环境 MRv1：JobTracker和TaskTracker MRv2：YARN和ApplicationMaster编程模型编程模型YARNYARN基本组成结构基本组成结构q YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等几个组件构成ResourceManager(RM)ResourceManager(RM)q RM是全局资源管理器，负责整个系统的资源管理和分配q 主要由两个组件构成：调度器和应用程序管理器(ASM)q 调度器 调度器根据容量、队列等限制条件，将系统中

3、的资源分配给各个正在运行的应用程序 不负责具体应用程序相关的工作，比如监控或跟踪状态 不负责重新启动失败任务 资源分配单位用“资源容器”（Resource Container）表示 Container是一个动态资源分配单位，它将内存、CPU、磁盘、网络等资源封装在一起，从而限定每个任务的资源量 调度器是一个可拔插的组件，用户可以自行设计 YARN提供了多种直接可用的调度器，比如Fair Scheduler和Capacity Scheduler等q 应用程序管理器 负责管理整个系统中所有应用程序ApplicationMaster(AM)ApplicationMaster(AM)q 用户提交的每个

4、应用程序均包含一个AMq AM主要功能 与RM调度器协商以获取资源（用Container 表示） 将得到的任务进一步分配给内部的任务 与NM通信以启动/停止任务 监控所有任务运行状态，并在任务运行失败时重新为任务申请资源以重启任务q 当前YARN自带了两个AM实现 一个用于演示AM编写方法的示例程序distributedshell 一个运行MapReduce程序MRAppMasterq 其他的计算框架对应的AM正在开发中，比如Open MPI、Spark等NodeManager(NM)NodeManager(NM)和和ContainerContainerq NM是每个节点上的资源和任务管理器 定时向RM汇报本节点上的资源使用情况和各个Container的运行状态 接收并处理来自AM的Container启动/停止等各种请求q Container是YARN中的资源抽象，它封装了某个节点上的多维度资源q YARN会为每个任务分配一个Container，且该任务只能使用该Container