graph dump功能
功能简介
TorchAir能够通过graph dump功能导出图结构信息,方便后续问题定位。
使用方法
当前导出的图结构信息支持txt、pbtxt、py三种格式,通过graph_dump.type指定。
- txt文件:导出的txt文件是CANN最终接收到的TorchAir的构图结果,为protobuf格式,可以通过vscode等工具查看。
- pbtxt文件:导出的pbtxt文件是可以被TensorBoard读取的构图结果,可以通过TensorBoard等工具查看。
- py文件:导出的py文件是torch代码经由converter转化后的GE构图信息,可以通过vscode等工具查看。
graph_dump.type的默认值为“None”,默认不导出图结构信息。
若指定导出格式,模型执行后会生成dynamo_original_graph_{timestamp}.{graph_dump.type}文件和dynamo_optimized_graph_{timestamp}.{graph_dump.type}文件,前者是模型原始图结构文件,后者是优化后的模型图结构文件。一旦模型执行异常(如模型精度不准确),可通过生成的图结构文件进行分析和定位。
- 多次定义导出格式时,以最后一次定义的格式为准。
- 不支持txt、pbtxt、py三种格式同时导出。
import torchair as tng config = tng.CompilerConfig() # 设置导出图结构文件格式 config.debug.graph_dump.type = "pbtxt" npu_backend = tng.get_npu_backend(compiler_config=config)
父主题: 特性介绍