分享

hadoop2 YARN/MRv2 Node Manager分析4—RMContainer状态机分析

RMContainer是一个什么作用的数据结构?
在NM看来,每个节点有几种种基本状态?
INIT_CONTAINER代表什么?
CONTAINER_RESOURCES_CLEANEDUP代表什么?
Container异常退出(运行过程中抛出Throwable异常)是什么状态?
比较:
在RM看来,每个Container有几种基本状态(RMContainerState)?

已有(1)人评论

跳转到指定楼层
desehawk 发表于 2014-4-5 21:12:41
本帖最后由 desehawk 于 2014-4-5 21:17 编辑
Container是NodeManager中用于维护一个Container生命周期的数据结构,它的实现是ContainerImpl,该类维护了一个Container状态机,记录了Container可能存在的各个状态以及导致状态间转换的事件,当某个事件发生时,ContainerImpl会根据实际情况进行节点状态转移,同时触发一个行为。
NM-Container-state-graph.jpg
如图所示,在NM看来,每个节点有10种基本状态(ContainerState)和10种导致这10种状态之间发生转移的事件(ContainerEventType),ContainerImpl的作用是等待接收其他对象发出的ContainerEventType类型的事件,然后根据当前状态和事件类型,将当前状态转移到另外一种状态,同时触发另外一种行为(实际上执行一个函数,该函数可能会再次发出一种其他类型的事件)。下面具体进行介绍:

基本事件
(1) INIT_CONTAINER
NodeManager收到来自某个ApplicationMaster的启动container请求(通过RPC函数ContainerManager.startContainer()),则会触发一个INIT_CONTAINER事件,同时使container状态由初始状态NEW转换为LOCALIZING。

(2)RESOURCE_LOCALIZED
Container完成本地化工作(主要工作是从HDFS上下载各种文件,包括jar包,二进制文件和其他container执行过程中需用到的文件),会触发一个RESOURCE_LOCALIZED事件。

(3)CONTAINER_LAUNCHED
Container成功启动后,会触发一个CONTAINER_LAUNCHED事件,使得Container从LOCALIZED状态转换为CONTAINER_LAUNCHED状态。

(4) CONTAINER_EXITED_WITH_SUCCESS
Container正常退出(Container实际上是一个shell命令,正常结束运行后会返回0),会触发一个CONTAINER_EXITED_WITH_SUCCESS事件。

(5)CONTAINER_RESOURCES_CLEANEDUP
NodeManager清理完成Container使用的各种临时目录,此时会触发一个CONTAINER_RESOURCES_CLEANEDUP事件,使得Container从EXITED_WITH_SUCCESS状态转换为DONE状态。

(6)RESOURCE_FAILED
Container本地化过程中抛出异常,会触发一个RESOURCE_FAILED事件,导致Container失败。

(7)KILL_CONTAINER
在多种场景下会触发产生KILL_CONTAINER事件,包括:
1)ResourceManager要求NodeManager杀死一个container  
2)Container使用的内存量超过约定值,被监控线程杀死
3)ApplicationMaster要求NodeManager杀死一个container(通过RPC函数ContainerManager.stopContainer())
4)Container正常运行结束(正如MRv1中Task结束后会收到KilledTaskAction一样,container结束也会收到KILL_CONTAINER)

(8)CONTAINER_EXITED_WITH_FAILURE
Container异常退出(运行过程中抛出Throwable异常)

(9)CONTAINER_KILLED_ON_REQUEST
Container运行过程中被强制杀死或者终止(返回码为137或者143)。

(10)UPDATE_DIAGNOSTICS_MSG
执行ContainerExecutor. launchContainer()过程中抛出IOException异常(ContainerExecutor有两种实现,默认是DefaultContainerExecutor,另一种是LinuxContainerExecutor)。
下图描述了以上各个事件的来源:
NM-Container-events-source.jpg


上一篇:

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条