功能介绍
基于Kubernetes(简称K8s)平台,整合Kubernetes生态组件(包括昇腾MindX DL组件),提供对MindIE Server推理服务的一键式自动部署能力,用户可以通过deployer提供的命令行工具,实现一键自动化部署和运维管理,简化用户部署MindIE Server推理服务集群的流程,以下是MindIE MS部署面支持的特性框架图。
图1 特性框架图
支持的特性如下所示:
- 支持命令行操作界面;
- 提供单模型单机的部署能力;
- 支持单模型分布式部署的部署能力;
- 支持滚动更新(仅单机支持)、NPU故障重调度(仅单机支持)、Server进程故障重启等能力。
父主题: 部署器(Deployer)