扩展更多特性

• 内存二次分配管理
  
• 多Device切换
  
• 多模型串联推理
  
• 多Batch模型推理
  
• 队列方式模型推理
  
• 异步模型推理
  
• 模型动态Shape输入推理
  
• 模型动态AIPP推理
  
• Stream管理
  
• 同步等待
  
• AI Core异常信息获取
  
• Profiling性能数据采集
  
• 溢出算子数据采集及分析
  
• 特征向量检索
  
• 共享Buffer管理