API参考导读
参考文档主要用于开发者查阅与业务开发相关的各类API说明、环境变量与算子信息。
类型 |
描述 |
---|---|
AscendCL接口是对底层昇腾计算服务接口的封装。它提供系统配置、运行时管理、单算子执行、模型执行、媒体数据预处理、Profiling数据采集等API库,供用户开发人工智能应用调用。 AscendCL提供了C与Python两种语言的接口,开发者可根据自身需求选择适合自己的语言。 |
|
ISP提供了3A二次开发API、各ISP算法调试API等,供开发者进行ISP二次开发及图像质量调试。 |
|
OpenHiva是一套面向机器人应用开发的编程框架,封装了确定性调度框架接口、AscendCL接口等,提供类ROS的编程接口,包括消息发布/订阅接口、NN(Neural Network)推理接口、IO(Input/Output)处理接口,便于开发者使用。 |
|
Ascend C是CANN提供的新一代算子编程语言,支持C和C++标准规范,最大化匹配用户开发习惯,提供了多层接口抽象、自动并行计算、孪生调试等关键技术,兼顾易用与高效。 通过Ascend C编程语言开发的算子默认运行在AI Core上。 |
|
TBE&AI CPU是CANN提供的上一代算子开发方式,需要开发者同时具备Python与C&C++语言程序开发能力,其中TBE开发的算子运行在AI Core上,AI CPU开发的算子运行在AI CPU上。 |
|
昇腾平台提供了构图接口Ascend Graph API,开发者可以直接通过此API构造直接在昇腾平台上运行的图。 |
|
DataFlow用于描述采用数据队列以数据驱动方式将一个或多个计算处理点(ProcessPoint)组织成完整的计算流。通过DataFlow接口可以进行计算图的构建、修改、编译和执行。 |
|
UDF(User Define FlowFunction)用户自定义功能支持用户通过FuncProcessPoint和GraphProcessPoint编写自定义处理函数。通过DataFlow构图以flowModel的方式运行。 |
|
集合通信HCCL接口用于提供单机多卡、多机多卡的集合通信原语,实现分布式训练。HCCL提供了Python语言与C语言两套接口,其中:
|
|
LM-DataDist(large language model DataDist)大模型分布式集群和数据加速组件,提供了集群KV数据管理能力,以支持全量图和增量图分离部署。 |
|
LLM Engine(large language model Engine)提供管理图的部署和调度执行功能,支持推理全量增量分离部署,根据传入的图是全量图还是增量图来执行对应的部署和调度逻辑。 |
|
AOE(Ascend Optimization Engine)自动调优工具提供调优API和查询知识库API。通过调优API可以使能AOE自动调优功能,通过查询知识库API可以查询之前生成的知识库文件,获取tiling。 |
|
提供了进行算子开发和图开发时依赖的基础数据结构和接口说明。 |
|
描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 |
|
提供一系列丰富且深度优化后的高性能算子API,还提供基于AscendIR定义的算子规格以及CANN支持的AI框架算子清单。 |