下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

aclrtSetDevice

函数功能

指定当前线程中用于运算的Device。

对于Atlas 200/300/500 推理产品,调用本接口会隐式创建默认Context,默认Context中包含2个Stream,1个默认Stream和1个执行内部同步的Stream。

对于Atlas 200/500 A2推理产品,调用本接口会隐式创建默认Context,该默认Context中包含1个默认Stream。

对于Atlas 训练系列产品,调用本接口会隐式创建默认Context,该默认Context中包含1个默认Stream。

对于Atlas A2训练系列产品/Atlas 800I A2推理产品,调用本接口会隐式创建默认Context,该默认Context中包含1个默认Stream。

对于Atlas 推理系列产品,调用本接口会隐式创建默认Context,在标准形态下,该默认Context中包含2个Stream,1个默认Stream和1个执行内部同步的Stream。

约束说明

  • 调用aclrtSetDevice接口指定运算的Device后,若不使用Device上的资源时,可调用aclrtResetDeviceaclrtResetDeviceForce接口及时释放本进程使用的Device资源(若不调用这两个接口,功能上不会有问题,因为在进程退出时也会释放本进程使用的Device资源):
    • 若调用aclrtResetDevice接口释放Device资源:

      aclrtResetDevice接口内部涉及引用计数的实现,建议aclrtResetDevice接口与aclrtSetDevice接口配对使用,aclrtSetDevice接口每被调用一次,则引用计数加一。aclrtResetDevice接口每被调用一次,则该引用计数减一,当引用计数减到0时,才会真正释放Device上的资源。

    • 若调用aclrtResetDeviceForce接口释放Device资源:

      aclrtResetDeviceForce接口可与aclrtSetDevice接口配对使用,也可不与aclrtSetDevice接口配对使用,若不配对使用,一个进程中,针对同一个Device,调用一次或多次aclrtSetDevice接口后,仅需调用一次本接口可释放Device上的资源。

  • 在不同进程或线程中支持调用aclrtSetDevice接口指定同一个Device用于运算。在同一个进程中的多个线程中,如果调用aclrtSetDevice接口指定同一个Device用于运算,这时隐式创建的默认Context是同一个。
  • 多Device场景下,可在进程中通过aclrtSetDevice接口切换到其它Device,也可以调用aclrtSetCurrentContext接口通过切换Context来切换Device。

函数原型

aclError aclrtSetDevice(int32_t deviceId)

参数说明

参数名

输入/输出

说明

deviceId

输入

Device ID。

用户调用aclrtGetDeviceCount接口获取可用的Device数量后,这个Device ID的取值范围:[0, (可用的Device数量-1)]

返回值说明

返回0表示成功,返回其他值表示失败。

参考资源

接口调用流程及示例,参见运行管理资源申请与释放

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词