文档
注册

API参考导读

参考文档主要用于开发者查阅与业务开发相关的各类API说明、环境变量与算子信息。

表1 参考文档总览

类型

描述

AscendCL API(C&C++)

AscendCL接口是对底层昇腾计算服务接口的封装。它提供系统配置、运行时管理、单算子执行、模型执行、媒体数据预处理、Profiling数据采集等API库,供用户开发人工智能应用调用。

AscendCL提供了C与Python两种语言的接口,开发者可根据自身需求选择适合自己的语言。

AscendCL API(Python)

ISP API

ISP提供了3A二次开发API、各ISP算法调试API等,供开发者进行ISP二次开发及图像质量调试。

OpenHiva API

OpenHiva是一套面向机器人应用开发的编程框架,封装了确定性调度框架接口、AscendCL接口等,提供类ROS的编程接口,包括消息发布/订阅接口、NN(Neural Network)推理接口、IO(Input/Output)处理接口,便于开发者使用。

Ascend C API

Ascend C是CANN提供的新一代算子编程语言,支持C和C++标准规范,最大化匹配用户开发习惯,提供了多层接口抽象、自动并行计算、孪生调试等关键技术,兼顾易用与高效。

通过Ascend C编程语言开发的算子默认运行在AI Core上。

TBE&AI CPU API

TBE&AI CPU是CANN提供的上一代算子开发方式,需要开发者同时具备Python与C&C++语言程序开发能力,其中TBE开发的算子运行在AI Core上,AI CPU开发的算子运行在AI CPU上。

Ascend Graph API

昇腾平台提供了构图接口Ascend Graph API,开发者可以直接通过此API构造直接在昇腾平台上运行的图。

DataFlow API(Python)

DataFlow用于描述采用数据队列以数据驱动方式将一个或多个计算处理点(ProcessPoint)组织成完整的计算流。通过DataFlow接口可以进行计算图的构建、修改、编译和执行。

DataFlow API(C++)

UDF API(C++)

UDF(User Define FlowFunction)用户自定义功能支持用户通过FuncProcessPoint和GraphProcessPoint编写自定义处理函数。通过DataFlow构图以flowModel的方式运行。

UDF API(Python)

Ascend Extension for PyTorch API

昇腾平台提供了PyTorch适配插件Ascend Extension for PyTorch,使得原生PyTorch模型可以方便的在昇腾平台上执行。

开发者可以参见本接口参考查询Ascend Extension for PyTorch对原生PyTorch框架的API支持情况,以及Ascend Extension for PyTorch自定义API的功能描述、参数说明与使用示例等。

TF Adapter API(1.x)

昇腾平台提供了TensorFlow适配插件TF Adapter,使得原生TensorFlow模型可以方便的在昇腾平台上执行。

开发者可以参见本接口参考查询TF Adapter对原生TensorFlow框架的API支持情况,以及TF Adapter自定义API的功能描述、参数说明与使用示例等。

TF Adapter API(2.x)

TF Parser Scope融合规则API

开发者可基于TensorFlow Parser提供的Scope融合规则开发接口,开发TensorFlow框架的Scope融合规则。

HCCL API(C++)

集合通信HCCL接口用于提供单机多卡、多机多卡的集合通信原语,实现分布式训练。HCCL提供了Python语言与C语言两套接口,其中:
  • Python接口,主要用于实现TensorFlow网络的分布式训练。
  • C语言接口,又称OpBase接口,主要用于框架开发者进行OpBase模式下的框架适配,实现分布式能力。

HCCL API(Python)

LLM Engine API(C++)

LLM Engine(large language model Engine)提供管理图的部署和调度执行功能,支持推理全量增量分离部署,根据传入的图是全量图还是增量图来执行对应的部署和调度逻辑。

LLM-DataDist API(Python)

LM-DataDist(large language model DataDist)大模型分布式集群和数据加速组件,提供了集群KV数据管理能力,以支持全量图和增量图分离部署。

AOE API

AOE(Ascend Optimization Engine)自动调优工具提供调优API和查询知识库API。通过调优API可以使能AOE自动调优功能,通过查询知识库API可以查询之前生成的知识库文件,获取tiling。

环境变量参考

描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。

算子清单

对CANN算子库中的算子进行描述,以及CANN支持的AI框中的算子描述。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词