评分

提单

论坛

小AI

简介

概述

AI CPU是昇腾AI处理器的计算单元，AI CPU算子，是运行在昇腾AI处理器中AI CPU计算单元上的表达一个完整计算逻辑的运算。在NN模型训练或者推理过程中，将第三方开源框架转化为适配昇腾AI处理器的模型时遇到了昇腾AI处理器不支持的算子。此时，为了快速打通模型执行流程，用户可以通过自定义AI CPU算子进行功能调测，提升调测效率。

AI CPU提供了一系列API供开发者进行AI CPU算子的开发，API所在头文件总览可参见接口总览。

接口总览

表1 接口总览
接口	简介	头文件	库文件
CpuKernelContext类	包含了cpu kernels的context定义以及方法，可以获取input, output以及属性等信息	CANN软件安装后文件存储路径下的“include/aicpu/cpu_context.h”	CANN软件安装后文件存储路径下的“opp/built-in/op_impl/aicpu/aicpu_kernel/lib/libcpu_kernels_context.a”
TensorShape类	包含了cpu kernels的tensor shape定义以及方法	CANN软件安装后文件存储路径下的“include/aicpu/cpu_tensor_shape.h”
Tensor类	包含了cpu kernels的tensor定义以及方法	CANN软件安装后文件存储路径下的“include/aicpu/cpu_tensor.h”
AttrValue类	包含了cpu kernels的属性定义以及方法	CANN软件安装后文件存储路径下的“include/aicpu/cpu_attr_value.h”
数据类型描述	包含了cpu kernels的数据类型以及格式等定义	CANN软件安装后文件存储路径下的“include/aicpu/cpu_types.h”
宏定义	包含cpu kernels的kernel的基类定义以及注册宏	CANN软件安装后文件存储路径下的“include/aicpu/cpu_kernel.h”
Dump日志接口	包含Dump日志的接口声明	CANN软件安装后文件存储路径下的“include/aicpu/cust_cpu_utils.h”
NodeDefBuilder类	包含了cpu kernels的NodeDef定义以及方法	CANN软件安装后文件存储路径下的“include/aicpu/cpu_nodedef_builder.h”

父主题： AI CPU API