概述

MindIE MS(MindIE management service)作为MindIE的集群管理组件,主要服务于集群场景,根据应用场景,分为以下三个组件。

表1 组件分类

组件名称

应用场景

能力描述

Deployer

集群部署时的简化部署场景。

部署器,底层集成Kubernetes(简称K8s)生态,主要支持对MindIE Server服务集群的一键式部署管理,详情请参见部署器(Deployer),。

Controller

集群运行时的运维管理场景。

控制器,完成集群内所有MindIE Server的业务状态监控、PD身份管理与决策、资源管理决策等,是整个集群的状态监控器和决策大脑,详情请参见控制器(Controller)

Coordinator

集群运行时的推理请求入口场景。

调度器,是用户推理请求的入口,接收高并发的推理请求,进行请求调度、请求管理、请求转发等,是整个集群的数据请求管理入口,详情请参见调度器(Coordinator)

特性支持度

特性

Atlas 300I Duo 推理卡+Atlas 800 推理服务器(型号:3000)

Atlas 800I A2 推理产品

单机服务部署

支持

支持

分布式多机服务部署

不支持

支持

PD分离服务部署

不支持

支持