下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

GE_USE_STATIC_MEMORY

功能描述

网络运行时使用的内存分配方式,支持以下取值:

  • 0:动态分配内存,即按照实际大小动态分配。
  • 2:静态shape支持内存动态扩展。网络运行时,可以通过此取值实现同一session中多张图之间的内存复用,即以最大图所需内存进行分配。例如,假设当前执行图所需内存超过前一张图的内存时,直接释放前一张图的内存,按照当前图所需内存重新分配。
  • 3:动态shape支持内存动态扩展,解决内存动态分配时的碎片问题,降低动态shape网络内存占用。
  • 4:静态shape和动态shape同时支持内存动态扩展。

默认值是0。为兼容历史版本配置,配置为“1”的场景下,系统会按照“2”动态扩展内存的方式进行处理。

  • 该环境变量在后续版本会废弃。
  • 针对训练与在线推理场景,多张图并发执行时,不支持配置为“2”。
  • 针对TensorFlow训练场景与在线推理场景,此环境变量与配置参数“static_memory_policy”不可同时使用,否则网络运行时会冲突。建议开发者优先使用TF Adapter的配置参数static_memory_policy进行网络运行时内存分配方式的配置

配置示例

export GE_USE_STATIC_MEMORY=2

使用约束

支持的型号

Atlas 200/300/500 推理产品

Atlas 训练系列产品

Atlas 推理系列产品

Atlas A2 训练系列产品

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词