简介
概述
AI CPU是昇腾AI处理器的计算单元,AI CPU算子,是运行在昇腾AI处理器中AI CPU计算单元上的表达一个完整计算逻辑的运算。在NN模型训练或者推理过程中,将第三方开源框架转化为适配昇腾AI处理器的模型时遇到了昇腾AI处理器不支持的算子。此时,为了快速打通模型执行流程,用户可以通过自定义AI CPU算子进行功能调测,提升调测效率。
AI CPU提供了一系列API供开发者进行AI CPU算子的开发,API所在头文件总览可参见接口总览。
接口总览
接口 |
简介 |
头文件 |
库文件 |
---|---|---|---|
包含了cpu kernels的context定义以及方法,可以获取input, output以及属性等信息 |
CANN软件安装后文件存储路径下的“include/aicpu/cpu_context.h” |
CANN软件安装后文件存储路径下的“opp/built-in/op_impl/aicpu/aicpu_kernel/lib/libcpu_kernels_context.a” |
|
包含了cpu kernels的tensor shape定义以及方法 |
CANN软件安装后文件存储路径下的“include/aicpu/cpu_tensor_shape.h” |
||
包含了cpu kernels的tensor定义以及方法 |
CANN软件安装后文件存储路径下的“include/aicpu/cpu_tensor.h” |
||
包含了cpu kernels的属性定义以及方法 |
CANN软件安装后文件存储路径下的“include/aicpu/cpu_attr_value.h” |
||
包含了cpu kernels的数据类型以及格式等定义 |
CANN软件安装后文件存储路径下的“include/aicpu/cpu_types.h” |
||
包含cpu kernels的kernel的基类定义以及注册宏 |
CANN软件安装后文件存储路径下的“include/aicpu/cpu_kernel.h” |
||
包含Dump日志的接口声明 |
CANN软件安装后文件存储路径下的“include/aicpu/cust_cpu_utils.h” |
||
包含了cpu kernels的NodeDef定义以及方法 |
CANN软件安装后文件存储路径下的“include/aicpu/cpu_nodedef_builder.h” |