GE_USE_STATIC_MEMORY
功能描述
网络运行时使用的内存分配方式,支持以下取值:
- 0:动态分配内存,即按照实际大小动态分配。
- 2:静态shape支持内存动态扩展。网络运行时,可以通过此取值实现同一session中多张图之间的内存复用,即以最大图所需内存进行分配。例如,假设当前执行图所需内存超过前一张图的内存时,直接释放前一张图的内存,按照当前图所需内存重新分配。
- 3:动态shape支持内存动态扩展,解决内存动态分配时的碎片问题,降低动态shape网络内存占用。
- 4:静态shape和动态shape同时支持内存动态扩展。
默认值是0。为兼容历史版本配置,配置为“1”的场景下,系统会按照“2”动态扩展内存的方式进行处理。
- 该环境变量在后续版本会废弃。
- 针对训练与在线推理场景,多张图并发执行时,不支持配置为“2”。
- 针对TensorFlow训练场景与在线推理场景,此环境变量与配置参数“static_memory_policy”不可同时使用,否则网络运行时会冲突。建议开发者优先使用TF Adapter的配置参数static_memory_policy进行网络运行时内存分配方式的配置。
配置示例
export GE_USE_STATIC_MEMORY=2
使用约束
无
支持的型号
Atlas 200/300/500 推理产品
Atlas 训练系列产品
Atlas 推理系列产品
Atlas A2 训练系列产品
父主题: 后续版本废弃环境变量