量化感知训练场景下,出现编译ERROR的解决方法
问题描述
混合精度训练场景下,用户做量化感知训练,如果量化脚本正常运行,出现如下错误日志打印不影响功能。
[ERROR] PIPELINE(4802,python3):2020-05-05-22:08:32.343.536 [mindspore/ccsrc/pipeline/jit/pipeline.cc:636] Compile] The function call stack (See file 'analyze_fail.dat' for details): # 0 In file ../ops/cascade.py(125) if self.op[1] == 'depthwise': ^ # 1 In file ../ops/cascade.py(127) elif self.op[1] == 'conv': ^ # 2 In file ../ops/cascade.py(140) x = self.softmax(x) ^ # 3 In file /usr/local/python3.x/lib/python3.x/site-packages/mindspore/nn/layer/conv.py(259) if self.has_bias: # 4 In file /usr/local/python3.x/lib/python3.x/site-packages/mindspore/nn/layer/conv.py(261) return output
可能原因
昇腾模型压缩工具在保存量化感知训练模型阶段,会对原图进行编译,如果编译失败,会尝试将原图转成FP32,再次进行编译。
解决方法
用户无需关注上述错误打印,不影响业务功能。
父主题: FAQ