文档
注册
评分
提单
论坛
小AI

ACL_OP_COMPILER_CACHE_MODE

功能描述

Pytorch训练或者在线推理场景,可以通过此环境变量配置算子编译磁盘缓存模式。

  • 配置为enable:启用算子编译缓存。启用后可以避免针对相同编译参数及算子参数的算子重复编译,从而提升编译速度。
  • 配置为disable:禁用算子编译缓存。
  • 配置为force:强制刷新缓存。当用户的Python或者依赖库等发生变化时,需要指定为force用于清理已有的缓存。

默认配置为enable。

配置示例

export ACL_OP_COMPILER_CACHE_MODE=enable

使用约束

  • 该环境变量仅在单算子模式下可以使用,图模式不支持该环境变量。
  • 开启算子编译缓存的场景下,可以通过ACL_OP_COMPILER_CACHE_DIR配置算子编译缓存文件存储路径。
  • 如果同时通过环境变量和通过torch_npu_option方式指定了,以代码中的torch_npu_option方式为优先。

支持的型号

Atlas 训练系列产品

Atlas A2 训练系列产品

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词