学习向导
本节给出了文档的整体概述,可以了解到的特性以及使用对象,并给出构图的整体开发流程。
读者对象
本文档用于指导开发者如何使用AscendCL接口进行计算图的构建、修改、编译和执行。通过本文档您可以达成以下目标:
- 了解构建Graph的两种方法:通过算子原型构建Graph和原始模型解析为Graph。
- 掌握编译运行Graph的几种典型场景,并熟悉不同场景下所使用的AscendCL接口。
熟悉CANN软件基本架构以及特性、具备C++/C语言程序开发能力,对机器学习、深度学习有一定了解的人员,可以更好地理解本文档。
整体开发流程
流程说明如下:
- 进行构图操作之前,先进行环境搭建,安装相应的CANN软件包,并进行网络结构分析,如果有不支持的算子,则开发对应算子,并部署到硬件环境。
- 构建Graph,用户可以通过算子原型构建Graph,也可以将原始模型直接转换为Graph。
- 修改Graph,如果用户想要优化图结构,直接将图修改成期望的结构,则可以基于构建好的Graph,进行改图。
- 编译、运行Graph,用户可以将修改后的Graph编译成适配昇腾AI处理器的离线模型,然后通过AscendCL接口加载后上板推理;也可以直接运行Graph,得到图的执行结果。