下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

API参考导读

参考文档主要用于开发者查阅与业务开发相关的各类API说明、环境变量与算子信息。

表1 参考文档总览

类型

描述

AscendCL API(C&C++)

AscendCL接口是对底层昇腾计算服务接口的封装。它提供系统配置、运行时管理、单算子执行、模型执行、媒体数据预处理、Profiling数据采集等API库,供用户开发人工智能应用调用。

AscendCL提供了C与Python两种语言的接口,开发者可根据自身需求选择适合自己的语言。

AscendCL API(Python)

ISP API

ISP提供了3A二次开发API、各ISP算法调试API等,供开发者进行ISP二次开发及图像质量调试。

OpenHiva API

OpenHiva是一套面向机器人应用开发的编程框架,封装了确定性调度框架接口、AscendCL接口等,提供类ROS的编程接口,包括消息发布/订阅接口、NN(Neural Network)推理接口、IO(Input/Output)处理接口,便于开发者使用。

Ascend C API

Ascend C是CANN提供的新一代算子编程语言,支持C和C++标准规范,最大化匹配用户开发习惯,提供了多层接口抽象、自动并行计算、孪生调试等关键技术,兼顾易用与高效。

通过Ascend C编程语言开发的算子默认运行在AI Core上。

TBE&AI CPU API

TBE&AI CPU是CANN提供的上一代算子开发方式,需要开发者同时具备Python与C&C++语言程序开发能力,其中TBE开发的算子运行在AI Core上,AI CPU开发的算子运行在AI CPU上。

Ascend Graph API

昇腾平台提供了构图接口Ascend Graph API,开发者可以直接通过此API构造直接在昇腾平台上运行的图。

DataFlow API(Python)

DataFlow用于描述采用数据队列以数据驱动方式将一个或多个计算处理点(ProcessPoint)组织成完整的计算流。通过DataFlow接口可以进行计算图的构建、修改、编译和执行。

DataFlow API(C++)

UDF API(Python)

UDF(User Define FlowFunction)用户自定义功能支持用户通过FuncProcessPoint和GraphProcessPoint编写自定义处理函数。通过DataFlow构图以flowModel的方式运行。

UDF API(C++)

HCCL API(C++)

集合通信HCCL接口用于提供单机多卡、多机多卡的集合通信原语,实现分布式训练。HCCL提供了Python语言与C语言两套接口,其中:
  • Python接口,主要用于实现TensorFlow网络的分布式训练。
  • C语言接口,又称OpBase接口,主要用于框架开发者进行OpBase模式下的框架适配,实现分布式能力。

HCCL API(Python)

LLM DataDist API(Python)

LM-DataDist(large language model DataDist)大模型分布式集群和数据加速组件,提供了集群KV数据管理能力,以支持全量图和增量图分离部署。

LLM Engine API(C++)

LLM Engine(large language model Engine)提供管理图的部署和调度执行功能,支持推理全量增量分离部署,根据传入的图是全量图还是增量图来执行对应的部署和调度逻辑。

AOE API

AOE(Ascend Optimization Engine)自动调优工具提供调优API和查询知识库API。通过调优API可以使能AOE自动调优功能,通过查询知识库API可以查询之前生成的知识库文件,获取tiling。

基础数据结构和接口

提供了进行算子开发和图开发时依赖的基础数据结构和接口说明。

环境变量参考

描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。

算子加速库API

提供一系列丰富且深度优化后的高性能算子API,还提供基于AscendIR定义的算子规格以及CANN支持的AI框架算子清单。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词