概述

本章节包含辅助性接口,如异步保存等。

表1 torch_npu.utils API

API名称

说明

(beta)torch_npu.utils.save_async

异步保存一个对象到一个硬盘文件上。

(beta)torch_npu.utils.npu_combine_tensors

应用基于NPU的Tensor融合操作,将NPU上的多个Tensor融合为内存连续的一个新Tensor,访问原Tensor时实际访问新融合Tensor的对应偏移地址。

(beta)torch_npu.utils.get_part_combined_tensor

根据地址偏移及内存大小,从经过torch_npu.utils.npu_combine_tensors融合后的融合Tensor中获取局部Tensor。

(beta)torch_npu.utils.is_combined_tensor_valid

校验Tensor列表中的Tensor是否全部属于一个经过torch_npu.utils.npu_combine_tensors融合后的新融合Tensor。

(beta)torch_npu.utils.FlopsCounter

Flops统计类,用于统计各个常见cube类算子的浮点计算Flops,采用单例模式。