下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

Eager模式下数据dump功能

功能简介

用于配置Eager模式(Eager Execution,每个计算操作下发后立即执行)下数据dump功能,方便用户进行问题定位,如单算子调用的性能和精度问题。

使用约束

该功能开启后,npu_backend中compiler_config图模式相关的配置项不生效。

使用方法

该功能通过torchair.get_npu_backend中compiler_config参数配置,配置示例如下,参数说明参见表1

1
2
3
4
5
import torch_npu, torchair
config = torchair.CompilerConfig()
# Eager模式下数据dump功能开关
config.debug.data_dump.type = "npy"
npu_backend = torchair.get_npu_backend(compiler_config=config)
表1 参数说明

参数名

参数说明

是否必选

type

指定导出的数据类型,字符串类型。缺省为None,不导出dump数据。

当前仅支持npy格式。

filter

自定义导出输出的过滤规则。默认不配置。

产物说明

Eager模式下开启数据dump功能后,得到${op_type}-${aten_ir}.${param_type}$param_idx}${timestamp}.npy文件。其中${op_type}为算子类型,${aten_ir}为Aten算子名,${param_type}为参数输入/输出类型,$param_idx}为输入/输出参数的索引(默认从0开始),{timestamp}为时间戳。

产物的缺省路径为当前脚本执行所在目录的data_dump文件夹下,目录结构如下:

├ torch_test.py                         # PyTorch脚本
├── data_dump
│   ├── 1                            # graph_id
│       ├── gm_${timestamp}_dump     # 第1次dump的结果文件,通过时间戳标记
│           ├── view_3-aten.view.default.OUTPUT.0.20240823175323985506.npy   
│           ├── view_3-aten.view.default.OUTPUT.0.20240823175323985506.npy
│       ......
│       ├── gm_${timestamp}_dump     # 第n次dump的结果文件,通过时间戳标记
│           ├── xxx.npy   
│   ├── 2
│       ├── gm_${timestamp}_dump
│           ├── xxx.npy
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词