接口调用流程
开发应用时,应用程序中必须包含运行管理资源申请的代码逻辑,关于运行管理资源申请的接口调用流程,请先参见接口调用流程了解整体流程,再查看本节中的资源申请、释放流程说明。
运行管理资源包括:Device、Context、Stream。
运行管理资源申请
您需要按照Device、Context、Stream的顺序依次申请。其中,创建Context、Stream的方式分为隐式创建和显式创建,其适用场景有所不同:
- 隐式创建Context和Stream:适合简单、无复杂交互逻辑的应用,但缺点在于,在多线程编程中,每个线程都使用默认Context或默认Stream,默认Stream中任务的执行顺序取决于操作系统线程调度的顺序。
- 显式创建Context和Stream:推荐显式,适合大型、复杂交互逻辑的应用,且便于提高程序的可读性、可维护性。
图1 运行管理资源申请流程
关键接口的说明如下:
- 申请运行管理资源时,需按顺序依次申请:Device、Context、Stream。
- 调用aclrtSetDevice接口显式指定用于运算的Device。
- 调用aclrtCreateContext接口显式创建Context,调用aclrtCreateStream接口显式创建Stream。
- 不显式创建Context和Stream,系统会使用默认Context、默认Stream,该默认Context、默认Stream是在调用aclrtSetDevice接口时隐式创建的。
默认Stream作为接口入参时,直接传NULL。
- 不显式指定用于运算的Device。
调用aclrtCreateContext接口显式创建Context,调用aclrtCreateStream接口显式创建Stream。系统在显式创建Context时,系统内部会调用aclrtSetDevice接口指定运行的Device,Device ID通过aclrtCreateContext接口传入。
- 调用aclrtSetDevice接口显式指定用于运算的Device。
- (可选)调用aclrtGetRunMode接口获取软件栈的运行模式,根据运行模式来判断后续的内存申请接口调用逻辑。
如果查询结果为ACL_DEVICE,则数据传输时仅需申请Device上的内存。
数据传输的详细介绍请参见数据传输。
运行管理资源释放
释放运行管理资源时,需按顺序依次释放:Stream、Context、Device。
图2 运行管理资源释放流程
关键接口的说明如下:
- 显式创建Context和Stream时,需调用aclrtDestroyStream接口释放Stream,再调用aclrtDestroyContext接口释放Context。若显式调用aclrtSetDevice接口指定运算的Device时,还需调用aclrtResetDevice接口释放Device上的资源。
- 不显式创建Context和Stream时,仅需调用aclrtResetDevice接口释放Device上的资源。
父主题: 运行管理资源申请与释放