算子网络测试（推理）

简介

算子部署到算子库后，可以将其加载到网络模型中进行整网的推理验证，验证自定义算子在网络中运行结果是否正确。

网络测试会覆盖算子开发的所有交付件，包含实现文件，算子原型定义、算子信息库以及算子适配插件。本节仅对验证的方法做介绍。

MindStudio环境

基于MindStudio进行算子开发的场景下，算子网络测试的主要流程如下所示：

1. 使用ATC模型转换工具将包含自定义算子的原始网络模型转换为适配昇腾AI处理器的离线模型。

   详细的模型转换方法可参见《MindStudio 用户指南》中的“模型转换和调优”章节。

2. 开发AscendCL应用程序，加载转换好的离线模型文件进行模型推理，验证推理结果是否正确。

   AscendCL应用程序的开发方法可参见《MindStudio 用户指南》中的“应用开发”章节。

命令行环境

基于命令行环境进行算子开发的场景下，算子网络测试的主要流程如下所示：