get_npu_backend
函数功能
获取能够在NPU上运行的图编译后端npu_backend,可作为backend参数传入torch.compile。
函数原型
def get_npu_backend(*, compiler_config: CompilerConfig = None, custom_decompositions: Dict = {}) --> npu_backend
参数说明
参数 |
输入/输出 |
说明 |
是否必选 |
---|---|---|---|
compiler_config |
输入 |
图编译配置,CompilerConfig类的实例化,缺省情况下采用TorchAir自动生成的配置。 |
否 |
custom_decompositions |
输入 |
指定模型运行时用到的decompositions(将较大算子操作分解为较简单或核心算子),字典类型。 |
否 |
* |
输入 |
预留参数,用于后续功能拓展。 |
否 |
返回值说明
返回编译后端npu_backend。
约束说明
无
调用示例
1 2 3 4 |
# 从TorchAir框架获取NPU提供的默认backend import torch_npu import torchair npu_backend = torchair.get_npu_backend() |
父主题: 基本类和接口