图模式编译节点遍历选项
功能简介
图模式下算子编译时,可以设置不同的图遍历顺序,对静态图内存使用有不同的影响。用户根据实际情况自行设置。
该功能主要面向推理场景。
使用方法
该功能通过torchair.get_npu_backend中compiler_config参数配置,配置示例如下,参数说明参见表1。
1 2 3 4 5 6 |
import torch_npu import torchair config = torchair.CompilerConfig() # 图模式编译的遍历策略配置 config.experimental_config.topology_sorting_strategy = "DFS" npu_backend = torchair.get_npu_backend(compiler_config=config) |
父主题: 更多功能