下载
中文
注册

get_npu_backend

函数功能

获取能够在NPU上运行的图编译后端npu_backend,可作为backend参数传入torch.compile。

函数原型

def get_npu_backend(*, compiler_config: CompilerConfig = None, custom_decompositions: Dict = {}) --> npu_backend

参数说明

参数

输入/输出

说明

是否必选

compiler_config

输入

图编译配置,CompilerConfig类的实例化,缺省情况下采用TorchAir自动生成的配置。

custom_decompositions

输入

指定模型运行时用到的decompositions(将较大算子操作分解为较简单或核心算子),字典类型。

*

输入

预留参数,用于后续功能拓展。

返回值说明

返回编译后端npu_backend。

约束说明

调用示例

1
2
3
4
# 从TorchAir框架获取NPU提供的默认backend
import torch_npu
import torchair
npu_backend = torchair.get_npu_backend()