功能介绍

MindIE MS调度器（Coordinator）作为集群的数据面入口，主要提供负载均衡的调度算法和Cache亲和的调度算法。MindIE MS调度器（Coordinator）作为用户的推理请求入口，基于当前集群的节点现状和配置的调度算法，实现最优节点的选择、请求的监听、转发等，提升集群场景的节点资源利用率，其架构图如图1所示。