下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

算子网络测试(推理)

简介

算子部署到算子库后,可以将其加载到网络模型中进行整网的推理验证,验证自定义算子在网络中运行结果是否正确。

网络测试会覆盖算子开发的所有交付件,包含实现文件,算子原型定义、算子信息库以及算子适配插件。本节仅对验证的方法做介绍。

MindStudio环境

基于MindStudio进行算子开发的场景下,算子网络测试的主要流程如下所示:

  1. 使用ATC模型转换工具将包含自定义算子的原始网络模型转换为适配昇腾AI处理器的离线模型。

    详细的模型转换方法可参见MindStudio IDE用户指南中的“模型转换和调优”章节。

  2. 开发AscendCL应用程序,加载转换好的离线模型文件进行模型推理,验证推理结果是否正确。

    AscendCL应用程序的开发方法可参见MindStudio IDE用户指南中的“应用开发”章节。

命令行环境

基于命令行环境进行算子开发的场景下,算子网络测试的主要流程如下所示:

  1. 使用ATC模型转换工具将包含自定义算子的原始网络模型转换为适配昇腾AI处理器的离线模型。

    详细模型转换方法可参见ATC工具使用指南

  2. 开发AscendCL应用程序,加载转换好的离线模型文件进行模型推理,验证推理结果是否正确。

    AscendCL应用程序的开发方法可参见AscendCL应用软件开发指南 (C&C++)

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词