下载
中文
注册

环境变量参考

本节描述MindIE RT安装完成后,提供进程级环境变量设置脚本“set_env.sh”,以自动完成环境变量设置,用户进程结束后自动失效。

MindIE RT环境变量说明

环境变量名

说明

取值范围

缺省值

ASCENDIE_HOME

MindIE RT软件包安装后文件存储路径。

-

${ASECNDIE_HOME}

LD_LIBRARY_PATH

动态库的查找路径。

-

${LD_LIBRARY_PATH}

ASCEND_CUSTOM_OPP_PATH

推理引擎自定义算子包安装路径。

-

${ASCEND_CUSTOM_OPP_PATH}

HOME

当前用户目录,默认运行日志保存在${HOME}/ascend/log/mindie-rt/

-

${HOME}

ASCEND_VISIBLE_DEVICES

该环境变量已经废弃。指定当前进程所用的昇腾AI处理器的逻辑ID。参考配置方式:"0,1,2"或"0,2-4",设备ID间通过“,”分割。当和torch_npu混用场景下建议unset此环境变量。

取值范围[0,N-1],默认为环境中所有可用AI处理器。其中N为当前物理机、虚拟机和容器内的设备总数。

-

TUNE_BANK_PATH

指定AOE自动调优后自定义知识库的存储路径。

-

${TUNE_BANK_PATH}

PROFILE_MODE

是否开启Profiling功能。

  • true:开启Profiling功能。
  • false或者不配置:关闭Profiling功能。

false

ASCENDIE_FASTER_MODE

该变量已经弃用。原本该环境变量是针对gelu和sigmoid算子开启高性能模式,改为使用${MINDIE_OP_PRECISION_MODE}控制部分算子(包括gelu和sigmoid算子)开启高性能模式。

-

-

RANK_TABLE_FILE

ranktable文件路径,当需要使用多卡推理时使用。

-

-

RANK_START_ID

当需要多机推理时,设置当前机器的起始RANK,默认是0。

[0-1024]

0

MINDIE_MODIFY_MIXLIST

通过该环境变量配置混合精度黑白灰名单,具体使用方法请参见《图开发接口参考》的“Ascend Graph API > 数据类型 > aclgrphBuildModel支持的配置参数”章节中的MODIFY_MIXLIST环境变量配置该环境变量为混合精度黑白名单文件路径。混合精度黑白名单文件权限不能超过750。

-

-

MINDIE_OP_PRECISION_MODE

通过该环境变量配置指定算子内部处理时的精度模式,具体说明请参见《构图接口参考》的“Ascend Graph API > 数据类型 > aclgrphBuildModel支持的配置参数”章节中的OP_PRECISION_MODE环境变量。通过配置该环境变量为自定义的精度模式配置文件路径,为不同的算子设置不同的精度模式。自定义精度模式配置文件权限不能超过750。

-

-