文档
注册

pyACL接口调用流程

调用pyACL接口,可开发包含模型推理、媒体数据处理、单算子调用等功能的应用,这些功能可以独立存在,也可以组合存在。下图给出了使用pyACL接口开发AI应用的整体接口调用流程。

图1 接口调用流程图

上图根据应用开发中的典型功能抽象出主要的接口调用流程,具体场景参考如下。

  • 如果模型对输入图片的宽高要求与用户提供的源图不一致,则需要媒体数据处理,将源图裁剪成符合模型的要求。
  • 如果需要实现模型推理的功能,则需要先加载模型,模型推理结束后,则需要卸载模型。
  • 如果模型推理后,需要从推理结果中查找最大置信度的类别标识对图片分类,则需要数据后处理。

接口调用流程各步骤操作参见如下。

  1. pyACL初始化。

    调用acl.init接口实现初始化pyACL。

  2. 运行管理资源申请。

    依次申请运行管理资源:DeviceContextStream

    具体流程,请参见运行管理资源申请流程

  3. 模型推理/单算子调用/媒体数据处理。
    • 模型推理。
      1. 生成模型om文件:模型推理场景下,必须要有适配昇腾AI处理器的离线模型,需提前构建模型,请参见模型构建
      2. 模型加载:模型推理前,需要先将对应的模型加载到系统中。

        接口调用流程,请参见模型加载

      3. (可选)媒体数据处理:可实现JPEG图片解码、视频解码、抠图/图片缩放/格式转换、JPEG图片编码等功能。

        接口调用流程,请参见图像/视频数据处理

      4. 模型执行:使用模型实现图片分类、目标识别等功能。

        接口调用流程,请参见模型执行

      5. (可选)数据后处理:处理模型推理的结果,此处根据用户的实际需求来处理推理结果,例如用户可以将获取到的推理结果写入文件、从推理结果中找到每张图片最大置信度的类别标识等。
      6. 模型卸载:调用acl.mdl.unload接口卸载模型。
    • 算子调用。
      接口调用流程,请参见接口调用流程
      • 生成算子om文件,需使用ATC工具将算子定义文件(*.json)编译成适配昇腾AI处理器的离线模型(*.om文件),请参见ATC工具使用指南
      • 加载算子om文件,运行算子时使用。
      • 执行算子,输出算子的运行结果。
  4. 运行管理资源释放。

    所有数据处理都结束后,需要依次释放运行管理资源:StreamContextDevice

    具体流程,请参见运行管理资源释放流程

  5. pyACL去初始化。

    调用acl.finalize接口实现pyACL去初始化。

在应用开发过程中,各环节都涉及内存的申请与释放、数据传输(通过内存复制实现)、数据类型的创建与销毁,因此未在图中一一标识,关于内存申请与释放、内存复制的接口请参见内存管理。数据类型的创建与销毁的接口请参见数据类型及其操作接口

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词