下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

View类算子优化功能

功能简介

以图模式方式调用算子时,如果存在多个View类算子,会带来冗余计算,增加计算耗时。缺省情况下,TorchAir内部会开启View类算子优化功能,以提升算子执行性能。如果用户需要进行算子调优,尤其是精度比对,建议关闭本功能避免影响调优效果。

本功能当前仅针对如下Aten IR进行优化:

使用方法

该功能通过torchair.get_npu_backend中compiler_config参数配置,配置示例如下,参数说明参见表1

1
2
3
4
5
6
import torch_npu
import torchair
config = torchair.CompilerConfig()
# View类算子优化配置
config.experimental_config.enable_view_optimize = False
npu_backend = torchair.get_npu_backend(compiler_config=config)
表1 参数说明

参数名

参数说明

是否必选

enable_view_optimize

图模式调用View算子时是否开启计算优化。

  • False:关闭优化。
  • True(缺省值):开启优化。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词