MindIE Turbo是由华为在昇腾硬件上开发的LLM推理引擎加速插件库,规划了自研的大语言模型优化算法和与推理引擎框架相关的优化。MindIE Turbo会提供一系列模块化与插件化的接口,使能三方推理引擎接入并加速。其中包含的模块优化,会跟随实际演进情况,在不同版本中迁移到社区仓库中,这些迁移操作会有单独说明。