ACL_OP_COMPILER_CACHE_MODE

功能描述

Pytorch训练或者在线推理场景，可以通过此环境变量配置算子编译磁盘缓存模式。

• 配置为enable：启用算子编译缓存。启用后可以避免针对相同编译参数及算子参数的算子重复编译，从而提升编译速度。
• 配置为disable：禁用算子编译缓存。
• 配置为force：强制刷新缓存。当用户的Python或者依赖库等发生变化时，需要指定为force用于清理已有的缓存。

默认配置为enable。

配置示例

export ACL_OP_COMPILER_CACHE_MODE=enable

使用约束

• 该环境变量仅在单算子模式下可以使用，图模式不支持该环境变量。
• 开启算子编译缓存的场景下，可以通过ACL_OP_COMPILER_CACHE_DIR配置算子编译缓存文件存储路径。
• 如果同时通过环境变量和通过torch_npu_option方式指定了，以代码中的torch_npu_option方式为优先。

支持的型号

Atlas 训练系列产品

Atlas A2 训练系列产品

Atlas 800I A2推理产品