推理服务

提供高性能推理服务部署与运维能力，包括提供模型服务化能力和服务客户端标准API，简化用户服务调用；以及提供服务策略管理、运维能力等。支持主流第三方框架。

推理模型套件

MindIE LLM:大语言模型推理框架，提供API支持大模型推理能力。 MindIE SD: 面向视图生成场景的高性能推理框架。当前提供优选参考样例，更多能力即将开放。

推理运行时

MindIE RT: 提供推理应用接口，集成图编译、图运行能力。