设置AI CPU和control CPU配比
Atlas 200I SoC A1核心板含有16个Taishan200M CPU核,一部分划分为AI CPU专门用于运行AI CPU算子,一部分划分为control CPU用于系统管理和通用业务,还有一部分划分为data CPU,三者在CPU核资源层面是隔离的。
使用说明
- AI CPU、control CPU和data CPU总数为16个,三者出厂默认配比为7:9:0。用户可根据实际需要在宿主机上调整三者配比,该配比设置后会一并在容器内生效。
- 当前仅支持AI CPU和control CPU配比调整;data CPU当前不支持配比调整,只能固定配置为0。
- AI CPU支持配置的取值范围是0~15,control CPU支持配置的取值范围是1~16,两者相加的和为16。
- 若当前环境模型中无AI CPU算子,且运行业务时通过《Atlas 200I SoC A1核心板 23.0.RC1 npu-smi 命令参考》的“信息查询(info) > 查询指定芯片统计信息”命令章节查询当前AI CPU占用率持续为0,则AI CPU数量可以配置为0。
操作步骤
- 使用PuTTY登录宿主机的OS命令行。
- 执行如下命令,切换至root用户。
su - root
- 在宿主机上执行以下命令设置AI CPU和control CPU配比,此处以AI CPU、control CPU和data CPU三者配比为10:6:0为例。
npu-smi set -t cpu-num-cfg -i 0 -c 0 -v 10:6:0
Status : OK Message : The cpu-num-cfg of the chip is set successfully. Reset system for the configuration to take effect.
其中,-i参数为NPU ID(通过npu-smi info -l命令查询),-c参数为Chip ID(通过npu-smi info -m命令查询)。
若需查询AI CPU和control CPU配比,请执行npu-smi info -t cpu-num-cfg -i 0 -c 0。
父主题: 容器化部署应用