精度基本概念

绝对误差和相对误差是常用的衡量精度的概念，通俗的说，绝对误差是指真实值和测量值的差值，相对误差是这个差值和真实值的比。用公式表示为

• 绝对误差=|真实值-测量值|
• 相对误差 =|真实值-测量值|/真实值

我们对算子的精度要求通常使用相对误差，例如：误差小于万分之一，指的就是相对误差。