下载
中文
注册

关于增加校准集的建议

在基于精度的自动量化时,手动修改量化配置中的batch_num,可根据batch大小以及量化需要使用的图片数量调整,以便调整校准使用的数据量。batch_num控制量化使用数据的batch数目,batch_num = total_nums / batch_size,其中,total_nums表示总的图片数量,batch_size表示每个batch使用的图片数量。

通常情况下

batch_num越大,量化过程中使用的数据样本越多,量化后精度损失越小;但过多的数据并不会带来精度的提升,反而会占用较多的内存,降低量化的速度,并可能引起内存、显存、线程资源不足等情况;因此,建议batch_num*batch_size为16或32。