下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

使用向导

使用说明

本文档详细介绍了Ascend C算子调测工具的安装、调测功能和流程、调测示例等,该工具提供了命令行和API两种方式指导用户在不同场景下对Ascend C算子发起Tiling、精度和性能调测。

  • 使用Ascend C算子调测工具前,请先熟悉Ascend C自定义算子开发指南手册,了解算子开发、算子调用、算子调试调优等内容。
  • 对于离线推理/训练场景中的算子推荐使用命令行方式调测,对于在线推理/训练场景中的算子推荐使用API方式调测。
表1 手册向导

使用场景

操作指引

说明

1. Ascend C算子调测工具是什么

调测工具简介

阐述工具的基本概念、关键调测功能、调测方式和流程等,帮助用户快速了解和使用工具。

2. 使用工具前,如何搭建基础环境

环境准备

阐述工具软件的获取、安装、环境变量设置和依赖项安装等。

3a. 工具如何进行算子调测(通过命令行)

标准自定义算子工程场景的算子调测

针对典型算子工程,提供命令行方式进行算子调测的快速上手示例。调测功能包括Tiling调测、CPU孪生调试、NPU上板打印 、自动精度比对、上板Profiling数据采集、性能仿真流水图等。

核函数直调工程场景的算子调测

ops_adv工程场景的算子调测

3b. 工具如何进行算子调测(通过API)

标准自定义算子工程场景的算子调测

针对典型算子工程,提供API方式进行算子调测的快速上手示例。调测功能包括Tiling调测、CPU孪生调试、NPU上板打印 、自动精度比对、上板Profiling数据采集、性能仿真流水图等。

核函数直调工程场景的算子调测

ops_adv工程场景的算子调测

4. 调测过程中涉及哪些配置和调测功能

数据准备与配置说明

阐述命令行和API方式下算子调测需要的输入/标杆数据算子信息json文件配置等。

Tiling调测功能

阐述命令行和API方式下算子如何进行Tiling计算相关调测,并介绍调测产物。

CPU孪生调试功能

阐述命令行和API方式下算子如何在CPU侧孪生调试,并介绍调测产物,帮助用户快速定位代码问题。

NPU上板调试功能

阐述命令行和API方式下算子如何在NPU板端编译运行,并介绍调测产物,帮助验证实际算子精度是否正常。

Profiling数据采集功能

阐述命令行和API方式下算子如何进行数据采集和性能分析,并介绍解析结果,方便定位软/硬件性能瓶颈。

Simulator性能仿真功能

阐述命令行和API方式下算子如何进行性能仿真并生成指令流水图,帮助深入分析算子性能瓶颈。

更多功能

介绍其他算子调测相关的功能,包括printf/PRINTF/DumpTensor/assert调试等功能。

5. 命令行调测支持哪些参数

命令行参数说明

提供命令行方式下全量参数说明,帮助用户快速掌握命令行参数含义和功能。

6. API调测涉及哪些接口

Python API接口说明

介绍了ascendebug模块里一系列调测Python API接口,指导用户快速上手调用。

7. 工具调测过程中遇到问题怎么办

FAQ

罗列了工具调测过程中常见高频问题,并给出具体的原因分析和处理措施供用户参考。

使用约束

  • 本手册仅支持对静态Shape算子调测,暂不支持动态Shape算子调测。
  • 本工具支持的产品型号:
    • Atlas A2训练系列产品/Atlas 800I A2推理产品
    • Atlas 推理系列产品
    • Atlas 200/500 A2推理产品
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词