MindIE MS(MindIE management service)作为MindIE的集群管理组件,主要服务于集群场景,根据应用场景,分为以下三个组件。
组件名称 |
应用场景 |
能力描述 |
---|---|---|
Deployer |
集群部署时的简化部署场景。 |
部署器,底层集成Kubernetes(简称K8s)生态,主要支持对MindIE Server服务集群的一键式部署管理,详情请参见部署器(Deployer),。 |
Controller |
集群运行时的运维管理场景。 |
控制器,完成集群内所有MindIE Server的业务状态监控、PD身份管理与决策、资源管理决策等,是整个集群的状态监控器和决策大脑,详情请参见控制器(Controller)。 |
Coordinator |
集群运行时的推理请求入口场景。 |
调度器,是用户推理请求的入口,接收高并发的推理请求,进行请求调度、请求管理、请求转发等,是整个集群的数据请求管理入口,详情请参见调度器(Coordinator)。 |
特性 |
Atlas 300I Duo 推理卡+Atlas 800 推理服务器(型号:3000) |
|
---|---|---|
单机服务部署 |
支持 |
支持 |
分布式多机服务部署 |
不支持 |
支持 |
PD分离服务部署 |
不支持 |
支持 |