Atlas系列硬件: Atlas 200l DK A2 开发者套件; Atlas 200l DK 开发者套件（型号：3000）; 加速模块、加速卡、智能小站、服务器、集群

异构计算架构: CANN社区版; CANN商用版

AI框架: MindSpore; TensorFlow框架适配（社区版）; TensorFlow框架适配（商用版）; PyTorch框架适配

分布式训练加速套件: MindSpeed

昇腾推理引擎: MindIE

应用使能MindX: MindX DL; MindX Edge; MindX SDK

全流程开发工具: MindStudio

评分

提单

论坛

小AI

PYTORCH_NO_NPU_MEMORY_CACHING

功能描述

此环境变量用于控制是否关闭内存复用机制。

未配置时，开启内存复用机制。
配置为“1”时，关闭内存复用机制。

此环境变量默认为未配置。

关闭内存复用机制后，每次申请内存通过aclrtmalloc接口，生命周期结束后，立即通过aclrtfree接口释放回驱动。

关闭内存复用机制，默认使用aclrtmalloc和aclrtfree接口，虚拟内存默认关闭。
关闭内存复用机制，作为一种debug手段，配置后模型性能可能会下降，在某些模型场景可能出现严重下降。

配置示例

关闭内存复用机制示例：

export PYTORCH_NO_NPU_MEMORY_CACHING=1

重新启用内存复用机制示例：

unset PYTORCH_NO_NPU_MEMORY_CACHING

使用约束

此环境变量仅适用于PyTorch网络，且使用pytorch内存机制管理内存的场景。

支持的型号

Atlas 训练系列产品

Atlas A2 训练系列产品

父主题： Ascend Extension for PyTorch