使能多容器共享功能
系统默认启动的运行环境(宿主机)中的NPU只能被一个容器使用,只有当使用该NPU的容器退出后,该NPU才可以被其他容器使用;若需要在其他容器中同时使用该NPU,需要使能多容器共享功能。
使用说明
- 各容器通过抢占方式获取NPU算力,不支持内存隔离和算力切分。
- 宿主机的多容器共享功能默认为禁用状态。
- 宿主机重启后多容器共享功能被禁用。
操作步骤
- 使用PuTTY登录宿主机的OS命令行。
- 执行如下命令,切换至root用户。
su - root
- 在宿主机上执行以下命令使能多容器共享功能。
npu-smi set -t device-share -i 0 -c 0 -d 1
其中,-i参数为NPU ID(通过npu-smi info -l命令查询),-c参数为Chip ID(通过npu-smi info -m命令查询)。
- 若需查询多容器共享功能状态,请执行npu-smi info -t device-share -i 0 -c 0。
- 若需禁用多容器共享功能,请执行npu-smi set -t device-share -i 0 -c 0 -d 0。
父主题: 容器化部署应用