单算子API执行
本章主要介绍如表1所示的算子API,提供了详细的接口介绍,包括接口原型、功能描述、参数说明、调用示例等,指导用户快速上手调用算子API。
算子接口的调用流程请参见单算子API执行接口调用流程,其调用示例(以NN算子调用为例)请参见调用NN算子接口示例代码。
接口分类 |
说明 |
接口获取 |
产品支持度 |
---|---|---|---|
NN算子 |
Neural Network算子,覆盖TensorFlow、Pytorch、MindSpore、ONNX等常见框架的深度学习算法计算类型,包括Softmax、MatMul、Convolution等典型计算,接口前缀为aclnnXxx。 |
Atlas 200/300/500 推理产品不支持该接口。 |
|
融合算子 |
提供了Flash Attention、MC2等高性能融合算子,通过将多个独立“小算子”(如向量Vector、矩阵Cube)融合成一个“大算子”,达到提升算子性能的目的,接口前缀为aclnnXxx。 |
Atlas 200/300/500 推理产品不支持该接口。 Atlas 200/500 A2推理产品不支持该接口。 Atlas 训练系列产品不支持该接口。 |
|
DVPP算子 |
Digital Vision Pre-Processing算子,主要实现图像缩放、JPEG图像解码、图像归一化等功能,接口前缀为acldvppXxx。 |
Atlas 200/300/500 推理产品不支持该接口。 Atlas 200/500 A2推理产品不支持该接口。 Atlas 训练系列产品不支持该接口。 Atlas 推理系列产品不支持该接口。 |
父主题: 单算子调用