ASCEND_RT_VISIBLE_DEVICES
功能描述
设置哪些device对当前进程可见。支持一次指定一个或多个device ID。通过设置该环境变量,可以实现不修改应用程序、但调整device的功能。通过export命令,设置环境变量只在当前终端窗口生效,且只对设置环境变量之后启动的昇腾AI应用进程生效。
使用场景说明如下。例如默认device count为8,device ID为0、1、2、3、4、5、6、7。
- 设置ASCEND_RT_VISIBLE_DEVICES=1,则表示当前进程仅可使用device ID为1的device,获取到的device数量为1,此时索引值0对应的device ID为1。
- 设置ASCEND_RT_VISIBLE_DEVICES=1,2,3,则表示当前进程仅可使用device ID为1、2、3的三个device,获取到的device数量为3,此时索引值0对应的device ID为1。
- 设置ASCEND_RT_VISIBLE_DEVICES=3,2,1,则表示当前进程仅可使用device ID为3、2、1的三个device,获取到的device数量为3,此时索引值0对应的device ID为3。
- 设置ASCEND_RT_VISIBLE_DEVICES=1,2,-1,3,设置的device ID中出现无效值-1,此时仅无效值-1前的device ID可用。当前进程仅可使用device ID为1、2的两个device,获取到的device数量为2,此时索引值0对应的device ID为1。
在多机组网的场景下,当给ASCEND_RT_VISIBLE_DEVICES设置多个device ID的时候,仅支持设置同一台机器上的device ID。例如两台4P机器组网,机器1的device ID为0、1、2、3,机器2的device ID为4、5、6、7,则不支持设置ASCEND_RT_VISIBLE_DEVICES=2,3,4,5,因为device 2、3在机器1上,而device 4、5在机器2上。
配置示例
export ASCEND_RT_VISIBLE_DEVICES=1,2,3
父主题: 基本信息