校准过程中提示"IFMR node. Name:'layer_ifmr_op' Status Message: std::bad_alloc "信息

问题描述

训练后量化校准过程中，对某层进行量化，提示内存错误"IFMR node. Name:'layer_ifmr_op' Status Message: std::bad_alloc "。

可能原因

相较于环境中的CPU或者GPU存储，量化时使用的数据量过大，导致内存错误。

处理建议

1. 减少校准所用的数据量，即降低batch_size或者batch_num，可直接使用batch_size * batch_num的最小值尝试量化。
2. 如果网络中仅个别层的featuremap很大，出现内存错误，则可以跳过该层，不对其进行量化。