View类算子优化功能
功能简介
以图模式方式调用算子时,如果存在多个View类算子,会带来冗余计算,增加计算耗时。缺省情况下,TorchAir内部会开启View类算子优化功能,以提升算子执行性能。如果用户需要进行算子调优,尤其是精度比对,建议关闭本功能避免影响调优效果。
使用方法
该功能通过torchair.get_npu_backend中compiler_config参数配置,配置示例如下,参数说明参见表1。
1 2 3 4 5 6 |
import torch_npu import torchair config = torchair.CompilerConfig() # View类算子优化配置 config.experimental_config.enable_view_optimize = False npu_backend = torchair.get_npu_backend(compiler_config=config) |
父主题: 更多功能