文档
注册

功耗测试

测试项功能

功耗测试是通过运行单算子模型来检测整卡的功耗信息。

使用约束

  • 功耗测试不支持在设备所在环境存在问题的场景下运行,例如高温、散热有问题的环境,否则会出现硬件设备掉卡、硬件设备故障等异常情况。
  • 功耗测试不能用于温度测试,即试图测试硬件设备在不同温度下的散热情况,否则会出现硬件设备掉卡、硬件设备故障等异常情况。
  • 为保证返回检测结果的正确性和准确性,功耗测试需要单独执行。
  • 功耗跟MCU强相关,使用前请将MCU升级至配套版本,否则可能会有aicore利用率未满100%、调压异常等问题。
  • 为了避免频繁输出日志影响测试结果,测试前确认Host和Device的日志级别设置为ERROR,确认及设置方法如下:
    1. 确认日志级别:
      • Host侧:通过执行echo $GLOBAL_LOG_LEVEL命令查询,如果查询结果为非法值或者空,表示日志级别为缺省级别ERROR,对应数值3。
      • Device侧:请参考《CANN 日志参考》“其他操作">"msnpureport工具使用”章节,查看全局日志级别、模块日志级别和是否开启Event日志。
    2. 如果日志级别不为ERROR,请参考《CANN 日志参考》中“其他操作">“设置日志级别章节,设置Host和Device侧的日志级别。

测试项参数查询

用户可任选以下指令之一查看功耗测试命令的可用参数。

ascend-dmi -p -h

ascend-dmi -p --help

各参数解释如表1所示。

表1 参数说明

参数

说明

是否必填

[-p, --power]

使用该参数进行整卡的功耗测试。

[-t, --type]

指定算子运算类型,可以为fp16或int8,若未指定则默认为fp16。

其中Atlas A2 训练系列产品只支持指定为fp16。

[-dur, --dur, --duration]

指运行时间,若不填写运行时间则默认为600。

单位为秒,取值范围为[60,604800]。

[-it, --it, --interval-times]

指屏幕信息打印刷新的间隔时间,若不填写间隔时间则默认为5。

单位为秒,取值范围为[1, 5]。

[-pm, --pm, --print-mode]

屏幕输出的打印模式,若不填写打印模式则默认为refresh。

打印模式:

  • refresh:每次打印清除历史打印信息。
  • history:打印保存历史信息。
    说明:

    refresh模式下,当芯片数量较多时,建议调小字体使得所有结果都在一个屏幕中,否则可能会显示异常,重复打印部分内容。

[-q, --quiet]

指定该参数,将不再进行防呆提示,用户将默认允许该操作

说明:

若不指定该参数,将进行防呆提示,用户需要输入Y或N(y或n)确认是否进行测试。

  • 功耗数据是按周期采集,且前后两次采集之间存在时间间隔,因此小概率会出现未采集到实际功耗数据进而导致显示值偏低的情况。
  • 功耗测试有启动时间和退出时间,因此第一次和最后一次的回显信息会存在误差,属于正常现象。
  • 从运行成本考虑,功耗测试打印次数不一定与理论值相同。以功耗工具运行时间为60s,信息打印刷新的间隔为5s为例,理论上打印次数应为12次,实际次数会低于这个数值。
  • ascend-dmi -p后使用--dur,--it等多个二级参数时,可任意指定这些参数的排列顺序,不影响命令结果输出。例如:ascend-dmi -p --dur 60 --it 5 --pm refreshascend-dmi -p --it 5 --dur 60 --pm refresh输出结果相同。
  • 因int8模式下使用的是整数运算,相比于fp16的浮点数运算,会减少一部分运算单元,因此最终呈现出的功耗值将偏低。同时,硬件设备会预设性能阈值,fp16模式下容易达到阈值并触发主动降频、电压调节等保护机制,因此硬件设备功耗不会长时间超过阈值,int8模式下功耗偏低,未达到阈值情况下,不同硬件设备的功耗可能会出现明显差异。

使用实例

以下为各类服务器返回的功耗示例。

  • 推理服务器
    1. 以默认参数执行功耗测试为例(此时算子运算类型为fp16)。

      ascend-dmi -p

      图1 功耗测试示例一(推理服务器)
    2. 以算子运算类型为int8,其余参数保持默认为例。

      ascend-dmi -p -t int8

      图2 功耗测试示例二(推理服务器)
  • 训练服务器

    以执行时间为60s,信息的打印间隔信息为5s,屏幕的输出模式为清除历史记录为例。

    ascend-dmi -p --dur 60 --it 5 --pm refresh

    图3 功耗测试示例(训练服务器)
  • Atlas 300T 训练卡(型号 Pro-9000)

    以执行时间为60s,信息的打印间隔信息为5s,屏幕的输出模式为清除历史记录为例。

    ascend-dmi -p --dur 60 --it 5 --pm refresh

    图4 功耗测试示例

上述图中各类服务器参数介绍如表2所示。

表2 显示界面参数说明

参数

说明

产品形态

Type

标卡型号

标卡

Card

卡ID号

Chip

处理器编号

Name

处理器名称

Type

处理器型号

训练服务器

Chip Name

处理器名称

NPU Count

NPU的个数

标卡、训练服务器

Power

当前整卡或芯片的实际功耗

Health

处理器健康程度

Temperature

处理器当前温度

Device ID

处理器设备逻辑号

AI Core Usage

处理器AI Core的使用率

Voltage

处理器当前电压

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词