性能指标介绍

在计算性能指标中,优先级排序为:吞吐率 > 单步迭代时间 > 线性度 > 内存占用 > 带宽占比 > 训练效率 > 浮点计算次数每秒 > 算力利用率。各指标如下表所示:
表1 参数说明

指标名称

单位

吞吐率

samples/s、tokens/s

单步迭代时间

s

线性度

values

内存占用

%

训练效率

tokens/day

浮点计算次数每秒

TFLOPS/s

算力利用率

%

通信性能指标

%

Pipeline并行效率指标

%

以下仅对重点的性能指标进行介绍。