下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

接口调用流程

开发应用时,应用程序中必须包含运行管理资源申请的代码逻辑,关于运行管理资源申请的接口调用流程,请先参见接口调用流程了解整体流程,再查看本节中的资源申请、释放流程说明。

运行管理资源包括:DeviceContextStream

运行管理资源申请

您需要按照Device、Context、Stream的顺序依次申请。其中,创建Context、Stream的方式分为隐式创建和显式创建,其适用场景有所不同:

  • 隐式创建Context和Stream:适合简单、无复杂交互逻辑的应用,但缺点在于,在多线程编程中,每个线程都使用默认Context或默认Stream,默认Stream中任务的执行顺序取决于操作系统线程调度的顺序。
  • 显式创建Context和Stream:推荐显式,适合大型、复杂交互逻辑的应用,且便于提高程序的可读性、可维护性。
图1 运行管理资源申请流程

关键接口的说明如下:

  1. 申请运行管理资源时,需按顺序依次申请:DeviceContextStream
    • 调用aclrtSetDevice接口显式指定用于运算的Device。
      • 调用aclrtCreateContext接口显式创建Context,调用aclrtCreateStream接口显式创建Stream。
      • 不显式创建Context和Stream,系统会使用默认Context、默认Stream,该默认Context、默认Stream是在调用aclrtSetDevice接口时隐式创建的。

        默认Stream作为接口入参时,直接传NULL。

    • 不显式指定用于运算的Device。

      调用aclrtCreateContext接口显式创建Context,调用aclrtCreateStream接口显式创建Stream。系统在显式创建Context时,系统内部会调用aclrtSetDevice接口指定运行的Device,Device ID通过aclrtCreateContext接口传入。

  2. (可选)调用aclrtGetRunMode接口获取软件栈的运行模式,根据运行模式来判断后续的内存申请接口调用逻辑。

    如果查询结果为ACL_HOST,则数据传输时涉及申请Host上的内存。

    如果查询结果为ACL_DEVICE,则数据传输时仅需申请Device上的内存。

    数据传输的详细介绍请参见数据传输

运行管理资源释放

释放运行管理资源时,需按顺序依次释放:Stream、Context、Device。

图2 运行管理资源释放流程

关键接口的说明如下:

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词