文档
注册
评分
提单
论坛
小AI

校准过程中提示"IFMR node. Name:'layer_ifmr_op' Status Message: std::bad_alloc "信息

问题描述

训练后量化校准过程中,对某层进行量化,提示内存错误"IFMR node. Name:'layer_ifmr_op' Status Message: std::bad_alloc "。

可能原因

相较于环境中的CPU或者GPU存储,量化时使用的数据量过大,导致内存错误。

处理建议

  1. 减少校准所用的数据量,即降低batch_size或者batch_num,可直接使用batch_size * batch_num的最小值尝试量化。
  2. 如果网络中仅个别层的featuremap很大,出现内存错误,则可以跳过该层,不对其进行量化。
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词