下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

PYTORCH_NO_NPU_MEMORY_CACHING

功能描述

此环境变量用于控制是否关闭内存复用机制。

  • 未配置时,开启内存复用机制。
  • 配置为“1”时,关闭内存复用机制。

此环境变量默认为未配置。

关闭内存复用机制后,每次申请内存通过aclrtmalloc接口,生命周期结束后,立即通过aclrtfree接口释放回驱动。

  • 关闭内存复用机制,默认使用aclrtmalloc和aclrtfree接口,虚拟内存默认关闭。
  • 关闭内存复用机制,作为一种debug手段,配置后模型性能可能会下降,在某些模型场景可能出现严重下降。

配置示例

关闭内存复用机制示例:

export PYTORCH_NO_NPU_MEMORY_CACHING=1

重新启用内存复用机制示例:

unset PYTORCH_NO_NPU_MEMORY_CACHING

使用约束

此环境变量仅适用于PyTorch网络,且使用pytorch内存机制管理内存的场景。

支持的型号

Atlas 训练系列产品

Atlas A2 训练系列产品

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词