单步迭代时间是最为常见的性能指标之一。单步迭代时间指模型完成一个批次（batch）输入数据迭代所需要的时间，单位一般是秒（s）。单步迭代时间具有直观性，可以量化看出算子、调度和通信等耗时对总体性能的直观影响。相反地，单步迭代时间的缺点在于其没有对当前模型的批次大小、是否存在梯度累积等要素有很好的量化。一般而言，会结合模型配置，将单步时间和吞吐率进行相互转化。