安装前准备
介绍安装前的准备动作,包括准备用户、检查环境、安装依赖、上传软件包等。
用户准备
请使用在线推理环境下CANN软件包的安装用户安装AMCT,本章节以非root用户为例进行操作。
环境准备
类别 |
版本限制 |
获取方式 |
注意事项 |
---|---|---|---|
在线推理环境所需操作系统 |
请参见支持的OS清单。 |
请从Ubuntu官网下载对应版本软件进行安装,安装完成后查询命令为: cat /etc/*release && uname -m |
支持基于NPU,CPU的量化。不支持GPU量化。 |
Python |
Python3.7.x(3.7.5~3.7.11)、Python3.8.x(3.8.0~3.8.11)、Python3.9.x(3.9.0~3.9.2) 推荐使用Python3.9.2 |
请参见《CANN软件安装指南》手册>安装开发环境>安装依赖章节。 若需要搭建Python3.9.2环境,Ubuntu操作系统请参见安装Python3.9.2(Ubuntu)。 |
本手册以Python3.9.2为例进行介绍,相应环境变量和安装命令以实际安装Python版本为准。 |
TensorFlow CPU版本 |
2.6.5或1.15.0 |
请参见安装依赖。 |
量化后的仿真模型不支持在GPU运行,故只需安装CPU版本即可。 TensorFlow版本与Python版本的对应关系:
|
Pillow |
6.0.0+ |
请参见安装依赖。 |
- |
安装依赖
请参见《CANN软件安装指南》>安装开发环境>安装依赖章节,安装完成后,还需要执行如下命令安装相关依赖,对图像处理时需要依赖Pillow软件:
依赖名称 |
版本号 |
安装命令 |
---|---|---|
TensorFlow CPU版本 |
2.6.5或1.15.0 |
用户根据实际情况选择如下版本进行安装:
须知:
|
Pillow |
6.0.0+ |
pip3 install pillow==6.0.0 --user |
上传软件包
以AMCT的安装用户将Ascend-cann-amct_{software version}_linux-{arch}.tar.gz软件包上传到Linux服务器任意目录下,本示例为上传到$HOME/amct/目录。
执行如下命令解压AMCT软件包:
tar -zxvf Ascend-cann-amct-{software version}_linux-{arch}.tar.gz
获得如下内容:
一级目录 |
二级目录 |
说明 |
使用场景及注意事项 |
---|---|---|---|
amct_caffe/ |
Caffe框架AMCT目录。 |
|
|
amct_caffe-{version}-py3-none-linux_{arch}.whl |
Caffe框架AMCT安装包。 |
||
caffe_patch.tar.gz |
Caffe源代码增强包。 |
||
amct_tf/ |
TensorFlow框架AMCT目录。 |
||
amct_tensorflow-{version}-py3-none-linux_{arch}.tar.gz |
TensorFlow框架AMCT安装包,通过源码编译方式进行安装。 |
|
|
amct_tensorflow_ascend-{version}-py3-none-linux_{arch}.tar.gz |
基于TF_Adapter的AMCT安装包,通过源码编译方式进行安装。 |
|
|
amct_pytorch/ |
PyTorch框架AMCT目录。 |
|
|
amct_pytorch-{version}-py3-none-linux_{arch}.tar.gz |
PyTorch框架AMCT源码安装包。 |
||
amct_onnx/ |
ONNX模型AMCT目录。 |
|
|
amct_onnx-{version}-py3-none-linux_{arch}.whl |
ONNX模型AMCT安装包。 |
||
amct_onnx_op.tar.gz |
AMCT基于ONNX Runtime的自定义算子包。 |
||
amct_ms/ |
MindSpore框架AMCT目录。 |
|
|
amct_mindspore-{version}-py3-none-linux_{arch}.whl |
MindSpore框架AMCT安装包。 |
||
third_party/ |
Ascend-nca-{software version}-linux.{arch}.run |
NCA(Neural Compute Agent)软件包。 |
基于性能的自动量化场景下使用。该版本不支持third_party目录下的相关特性。 |
其中:{version}表示AMCT具体版本号,{software version}为软件版本号,{arch}表示具体操作系统架构。