API参考导读
参考文档主要用于开发者查阅与业务开发相关的各类API说明、环境变量与算子信息。
类型 |
描述 |
|---|---|
AscendCL接口是对底层昇腾计算服务接口的封装。它提供系统配置、运行时管理、单算子执行、模型执行、媒体数据预处理、Profiling数据采集等API库，供用户开发人工智能应用调用。 AscendCL提供了C与Python两种语言的接口，开发者可根据自身需求选择适合自己的语言。 |
|
ISP提供了3A二次开发API、各ISP算法调试API等，供开发者进行ISP二次开发及图像质量调试。 |
|
OpenHiva是一套面向机器人应用开发的编程框架，封装了确定性调度框架接口、AscendCL接口等，提供类ROS的编程接口，包括消息发布/订阅接口、NN（Neural Network）推理接口、IO（Input/Output）处理接口，便于开发者使用。 |
|
Ascend C是CANN提供的新一代算子编程语言，支持C和C++标准规范，最大化匹配用户开发习惯，提供了多层接口抽象、自动并行计算、孪生调试等关键技术，兼顾易用与高效。 通过Ascend C编程语言开发的算子默认运行在AI Core上。 |
|
TBE&AI CPU是CANN提供的上一代算子开发方式，需要开发者同时具备Python与C&C++语言程序开发能力，其中TBE开发的算子运行在AI Core上，AI CPU开发的算子运行在AI CPU上。 |
|
昇腾平台提供了构图接口Ascend Graph API，开发者可以直接通过此API构造直接在昇腾平台上运行的图。 |
|
DataFlow用于描述采用数据队列以数据驱动方式将一个或多个计算处理点（ProcessPoint）组织成完整的计算流。通过DataFlow接口可以进行计算图的构建、修改、编译和执行。 |
|
UDF（User Define FlowFunction）用户自定义功能支持用户通过FuncProcessPoint和GraphProcessPoint编写自定义处理函数。通过DataFlow构图以flowModel的方式运行。 |
|
昇腾平台提供了PyTorch适配插件Ascend Extension for PyTorch，使得原生PyTorch模型可以方便的在昇腾平台上执行。 开发者可以参见本接口参考查询Ascend Extension for PyTorch对原生PyTorch框架的API支持情况，以及Ascend Extension for PyTorch自定义API的功能描述、参数说明与使用示例等。 |
|
昇腾平台提供了TensorFlow适配插件TF Adapter，使得原生TensorFlow模型可以方便的在昇腾平台上执行。 开发者可以参见本接口参考查询TF Adapter对原生TensorFlow框架的API支持情况，以及TF Adapter自定义API的功能描述、参数说明与使用示例等。 |
|
开发者可基于TensorFlow Parser提供的Scope融合规则开发接口，开发TensorFlow框架的Scope融合规则。 |
|
|
集合通信HCCL接口用于提供单机多卡、多机多卡的集合通信原语，实现分布式训练。HCCL提供了Python语言与C语言两套接口，其中：
|
|
LLM Engine（large language model Engine）提供管理图的部署和调度执行功能，支持推理全量增量分离部署，根据传入的图是全量图还是增量图来执行对应的部署和调度逻辑。 |
|
LM-DataDist（large language model DataDist）大模型分布式集群和数据加速组件，提供了集群KV数据管理能力，以支持全量图和增量图分离部署。 |
|
AOE（Ascend Optimization Engine）自动调优工具提供调优API和查询知识库API。通过调优API可以使能AOE自动调优功能，通过查询知识库API可以查询之前生成的知识库文件，获取tiling。 |
|
描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 |
|
提供一系列丰富且深度优化后的高性能算子API，还提供基于AscendIR定义的算子规格以及CANN支持的AI框架算子清单。 |
