昇腾产品形态说明

昇腾AI产品包含训练和推理产品，主要产品系列如表1所示，昇腾训练产品同时支持训练和推理业务，各个组件支持的产品范围请参见组件对应文档的产品支持列表。

表1 昇腾产品系列
产品系列	产品型号
Atlas 200/300/500 推理产品	Atlas 200 AI加速模块、Atlas 300I 推理卡（型号：3000）、Atlas 300I 推理卡（型号：3010）Atlas 500 智能小站、Atlas 200 DK 开发者套件
Atlas 200I/500 A2推理产品	Atlas 500 A2 智能小站、Atlas 200I DK A2 开发者套件、Atlas 200I A2 加速模块
Atlas 推理系列产品	加速卡： Atlas 300I Pro 推理卡、Atlas 300V 视频解析卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡
	加速模块： Atlas 200I SoC A1核心板
	边缘服务器： Atlas 500 Pro 智能边缘服务器支持插入Atlas 300I 推理卡（型号：3000）、Atlas 300I Pro 推理卡、Atlas 300V 视频解析卡、Atlas 300V Pro 视频解析卡使用
	中心推理服务器： Atlas 800 推理服务器（型号：3000）或Atlas 800 推理服务器（型号：3010）支持插入Atlas 300I 推理卡（型号：3000）、Atlas 300I 推理卡（型号：3010）、Atlas 300I Pro 推理卡、Atlas 300V 视频解析卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡使用
Atlas 训练系列产品	Atlas 800 训练服务器（型号：9000）、Atlas 800 训练服务器（型号：9010）、Atlas 900 PoD（型号：9000）、Atlas 900T PoD Lite、Atlas 300T 训练卡（型号 9000）、Atlas 300T Pro 训练卡（型号：9000）
Atlas A2 训练系列产品	Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元、Atlas 200T A2 Box16 异构子框

昇腾产品以昇腾AI处理器的PCle（Peripheral Component Interconnect Express）的工作模式进行区分，分为RC（Root Complex）模式和EP（Endpoint）模式，如果PCle工作在主模式，可以扩展外设，则称为RC模式；如果PCle工作在从模式，则称为EP模式。

表2 PCle的工作模式
PCle工作模式	支持的昇腾产品	工作模式说明
RC模式	Atlas 200 AI加速模块、Atlas 200 DK 开发者套件、Atlas 200I SoC A1、Atlas 500 A2 智能小站、Atlas 200I DK A2 开发者套件、Atlas 200I A2 加速模块	产品的CPU直接运行用户指定的AI业务软件，网络摄像头、I²C传感器、SPI显示器等其他外挂设备作为从设备接入产品。
EP模式	推理产品：Atlas 500 智能小站、Atlas 200 AI加速模块、Atlas 推理系列产品、Atlas 200I A2 加速模块	EP模式通常由Host侧作为主端，Device侧作为从端。客户的AI业务程序运行在Host系统中，昇腾产品作为Device系统以PCIe从设备接入Host系统，Host系统通过PCIe通道与Device系统交互，将AI任务加载到Device侧的昇腾AI处理器中运行。
EP模式	训练产品：Atlas 训练系列产品、Atlas A2 训练系列产品

图1 RC和EP场景

在异构计算架构中, 昇腾AI处理器与服务器的CPU通过PCIe总线连接协同工作，我们一般分别称为Device侧和Host侧，具体说明如下：

Host：CPU所在位置称为主机端（Host），是指与昇腾AI处理器所在硬件设备（如Atlas 300I 推理卡）相连接的X86服务器或ARM服务器，利用昇腾AI处理器提供的NN（Neural-Network）计算能力完成业务。
Device：是指安装了昇腾AI处理器的硬件设备，利用PCIe接口与服务器连接，为服务器提供NN计算能力。