安装方案
本章节介绍了物理机场景安装方案,软件安装包含OS的安装,NPU驱动固件、CANN软件的安装,安装时需要以root用户进行安装。
本章节介绍了容器场景安装方案,软件安装包含OS的安装,NPU驱动固件、CANN软件的安装,安装时需要以root用户进行安装。
容器场景安装方案:如果用户使用容器运行推理业务,则需在容器中部署CANN。如图1所示。
为了能更快完成Atlas 300V 视频解析卡的启动,已提前将CANN软件、PyTorch、MindIE制作成Docker容器镜像,只需在物理机上安装NPU驱动固件和Docker后,再将Docker镜像加载至服务器上,即可运行推理业务。
物理机场景安装方案:如果用户直接在物理机运行推理业务,则需在物理机安装NPU驱动固件和CANN软件。如图2所示。
Atlas 300V 视频解析卡相关软件的介绍如表1所示,使用需要遵从《华为软件许可协议》。
软件类型 |
软件介绍 |
---|---|
NPU固件 |
固件包含昇腾AI处理器自带的OS 、电源器件和功耗管理器件控制软件,分别用于后续加载到AI处理器的模型计算、芯片启动控制和功耗控制。 |
NPU驱动 |
用于管理查询昇腾AI处理器,同时为上层CANN软件提供芯片控制、资源分配等接口。 |
CANN |
通过AscendCL(Ascend Computing Language,昇腾计算语言)对外提供Device管理、Context管理、Stream管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理等API,支持用户快速构建基于昇腾AI处理器的AI应用和业务。 |
ToolBox |
主要包含Ascend-DMI工具、日志收集工具等。Ascend DMI(Ascend Device Management Interface)工具通过调用底层DCMI(设备控制管理接口)以及AscendCL(Ascend Computing Language,昇腾计算语言)相关接口完成相关检测功能,对于系统级别的信息查询通过调用系统提供的通用库来实现。 |
Docker容器镜像 |
为开发者提供Docker容器镜像,容器镜像内包含CANN软件。 |
应用样例 |
内置图像分类和目标检测样例,帮助用户学习和开发。 |
父主题: 软件安装