文档
注册
评分
提单
论坛
小AI

运行管理资源申请与释放

本节介绍运行管理资源包括哪些、如何申请&释放这些资源,并给出示例代码。

开发应用时,应用程序中必须包含运行管理资源申请的代码逻辑,关于运行管理资源申请的接口调用流程,请先参见AscendCL接口调用流程了解整体流程,再查看本节中的资源申请&释放流程说明、示例代码。

基本原理

您需要按顺序依次申请Device、Stream等运行管理资源,确保可以使用这些资源执行运算、管理任务。所有数据处理都结束后,需要按顺序依次释放Stream、Device等运行管理资源。

其中,创建Stream的方式分为隐式创建和显式创建,其适用场景有所不同:
  • 隐式创建Stream:适合简单、无复杂交互逻辑的应用,但缺点在于,在多线程编程中,每个线程都使用默认Stream,默认Stream中任务的执行顺序取决于操作系统线程调度的顺序。
  • 显式创建Stream:推荐显式,适合大型、复杂交互逻辑的应用,且便于提高程序的可读性、可维护性。
关于单进程、单线程、单Stream场景如下所示:
  • 单进程:一个应用程序对应一个进程。
  • 单线程:不创建多个线程时,默认只有一个线程。
  • 单Stream:整个开发的过程中使用同一个Stream。

    对于同一个Stream中的异步任务,AscendCL会按照应用程序中任务的顺序执行任务,确保异步任务执行的顺序。

  • 关于多线程、多Stream的场景请参见Stream管理

运行管理资源申请流程

图1 运行管理资源申请流程
申请运行管理资源时,需按顺序依次申请:Device、Stream:
  1. 调用aclrtSetDevice接口指定用于运算的Device(也支持在AscendCL初始化时配置默认计算设备,请参见aclInit接口处的说明),同时该接口也会隐式创建默认Context、默认Stream,但:
    • 一个Device对应一个默认Context,默认Context不能通过aclrtDestroyContext接口来释放。
    • 一个Device对应一个默认Stream,默认Stream不能通过aclrtDestroyStream接口来释放。
    • 默认Context、默认Stream,是在调用aclrtResetDevice接口后自动释放。
  2. 若使用默认Stream作为接口入参时,直接传NULL;若不使用默认Stream,可调用aclrtCreateStream接口显式创建Stream。
  3. (可选)调用aclrtGetRunMode接口获取软件栈的运行模式,根据运行模式来判断后续的内存申请接口调用逻辑。

    如果查询结果为ACL_HOST,则数据传输时涉及申请Host上的内存。

    如果查询结果为ACL_DEVICE,则数据传输时仅需申请Device上的内存。

    数据传输的详细介绍请参见数据传输

运行管理资源释放流程

图2 运行管理资源释放流程
释放运行管理资源时,需按顺序依次释放:Stream、Device。
  1. 若调用aclrtCreateStream接口显示创建Stream,需调用aclrtDestroyStream接口释放Stream;否则,无需调用aclrtDestroyStream接口。
  2. 调用aclrtResetDevice接口释放Device上的资源,同时该接口也会隐式释放默认Context、默认Stream,无需额外单独释放默认Context、默认Stream。

示例代码

您可以从样例介绍中获取完整样例代码。

调用接口后,需增加异常处理的分支,并记录报错日志、提示日志,此处不一一列举。以下是关键步骤的代码示例,不可以直接拷贝编译运行,仅供参考。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
// 初始化变量
int32_t deviceId=0 ;
aclrtStream stream;
extern bool g_isDevice;

// =====运行管理资源申请=====
// 指定运算的Device
aclError ret = aclrtSetDevice(deviceId);

// 显式创建一个Stream
// 用于维护一些异步操作的执行顺序,确保按照应用程序中的代码调用顺序执行任务
ret = aclrtCreateStream(&stream);

// 获取当前AI软件栈的运行模式,根据不同的运行模式,后续的接口调用方式不同
aclrtRunMode runMode;
ret = aclrtGetRunMode(&runMode);
g_isDevice = (runMode == ACL_DEVICE);
// =====运行管理资源申请=====

// ......

// =====运行管理资源释放=====
ret = aclrtDestroyStream(stream);
ret = aclrtResetDevice(deviceId);
// =====运行管理资源释放=====

// ......
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词