ASCEND_RT_VISIBLE_DEVICES
功能描述
指定哪些Device对当前进程可见,支持一次指定一个或多个Device ID。通过该环境变量,可实现不修改应用程序即可调整所用Device的功能。
其中Device ID为昇腾AI处理器的逻辑ID,例如可用Device数量为8,Device ID分别为:0、1、2、3、4、5、6、7,使用场景说明如下:
- 设置“export ASCEND_RT_VISIBLE_DEVICES=1”,则表示当前进程仅可使用device ID为1的device,获取到的device数量为1,此时device的索引值为0,后续在指定device计算设备时,需使用该索引值。
- 设置“export ASCEND_RT_VISIBLE_DEVICES=1,2,3”,则表示当前进程仅可使用device ID为1、2、3的三个device,获取到的device数量为3,此时各device的索引值分别为0、1、2,后续在指定device计算设备时,需使用该索引值。
多个Device ID之间以英文逗号分隔,不能包含其它字符,若包含其它字符,则只读取其它字符之前的Device ID。例如,若设置“export ASCEND_RT_VISIBLE_DEVICES=1, 2,3”环境变量设置命令中,2前面有一个空格,则这时只读取空格之前的Device ID,也就是1。
- 该环境变量为试用环境变量,后续版本可能存在变更,不支持应用于商用产品中。
- 当前版本仅支持指定的Device ID按照升序配置。
该环境变量使用场景:
离线推理程序执行场景。
TensorFlow/PyTorch等框架网络在昇腾平台执行训练或在线推理的场景。
配置示例
- 指定一个Device ID:
export ASCEND_RT_VISIBLE_DEVICES=1
- 指定多个Device ID:
export ASCEND_RT_VISIBLE_DEVICES=1,2,3
使用约束
针对TensorFlow框架网络在昇腾平台执行训练或在线推理的场景,ASCEND_RT_VISIBLE_DEVICES环境变量的优先级高于ASCEND_DEVICE_ID。若同时使用两个环境变量,则ASCEND_DEVICE_ID环境变量处只能设置ASCEND_RT_VISIBLE_DEVICES环境变量中的device索引值,否则会导致训练或推理应用程序运行异常。
支持的型号
Atlas 200/300/500 推理产品
Atlas 训练系列产品
Atlas 推理系列产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
Atlas 200/500 A2推理产品
父主题: 资源配置