下载
中文
注册

AICPU核配比优化指导

Atlas 200I SoC A1核心板含有16个Taishan200M CPU核,分为两部分。
  1. control CPU,用于运行OS与业务。
  2. AI CPU,用于运行AICPU算子。

data CPU当前不支持配比调整,此处不体现。

Atlas 200I SoC A1核心板默认的control CPU核数:AI CPU核数为9:7。用户需要关注AI CPU核与AI模型中AI CPU算子负载的匹配情况,以便进行AI CPU核配比的调整。用户可以在运行AI模型任务时,使用npu-smi info watch命令监测AI CPU资源占用率情况,根据AI CPU核繁忙情况决定是否调整配比,调整方法参见《Atlas 200I SoC A1 核心板 6.0.RC1 npu-smi 命令参考 01》。

root@ubantu:/home# npu-smi info watch
NpuID(Idx)  ChipId(Idx) Pwr(W)      Temp(C)     AI Core(%)  AI Cpu(%)   Ctrl Cpu(%) Memory(%)   Memory BW(%)
8           0           12.8        45          0           0           0           8           0
8           1           12.8        45          0           0           0           8           0
8           2           12.8        45          0           0           0           8           0
8           3           12.8        44          0           0           0           8           0
8           0           12.8        45          0           0           0           8           0
  • 如果AI CPU资源占用率较低,则减少AI CPU核个数。
  • 如果AI CPU资源占用率较高,则保持当前AI CPU核配比或者调高AI CPU核数。
  • 用户可以使用MindStudio工具进行AI模型性能分析,评估AI CPU算子运行是否存在瓶颈,具体请参考《MindStudio用户指南》中性能分析章节。