下载
中文
注册

设置AI CPU和control CPU配比

Atlas 200I SoC A1核心板含有16个Taishan200M CPU核,一部分划分为AI CPU专门用于运行AI CPU算子,一部分划分为control CPU用于系统管理和通用业务,还有一部分划分为data CPU,三者在CPU核资源层面是隔离的。

使用说明

  • AI CPU、control CPU和data CPU总数为16个,三者出厂默认配比为7:9:0。用户可根据实际需要在宿主机上调整三者配比,该配比设置后会一并在容器内生效。
  • 当前仅支持AI CPU和control CPU配比调整;data CPU当前不支持配比调整,只能固定配置为0。
  • AI CPU支持配置的取值范围是0~15,control CPU支持配置的取值范围是1~16,两者相加的和为16。
  • 若当前环境模型中无AI CPU算子,且运行业务时通过《Atlas 200I SoC A1核心板 23.0.RC1 npu-smi 命令参考》的“信息查询(info) > 查询指定芯片统计信息”命令章节查询当前AI CPU占用率持续为0,则AI CPU数量可以配置为0。

操作步骤

  1. 使用PuTTY登录宿主机的OS命令行。
  2. 执行如下命令,切换至root用户。

    su - root

  3. 在宿主机上执行以下命令设置AI CPU和control CPU配比,此处以AI CPU、control CPU和data CPU三者配比为10:6:0为例。

    npu-smi set -t cpu-num-cfg -i 0 -c 0 -v 10:6:0

    Status                              :  OK
    Message                             :  The cpu-num-cfg of the chip is set successfully. Reset system for the configuration to take effect.

    其中,-i参数为NPU ID(通过npu-smi info -l命令查询),-c参数为Chip ID(通过npu-smi info -m命令查询)。

    若需查询AI CPU和control CPU配比,请执行npu-smi info -t cpu-num-cfg -i 0 -c 0