下载
EN
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

量化感知训练场景下,出现编译ERROR的解决方法

问题描述

混合精度训练场景下,用户做量化感知训练,如果量化脚本正常运行,出现如下错误日志打印不影响功能。

[ERROR] PIPELINE(4802,python3):2020-05-05-22:08:32.343.536 [mindspore/ccsrc/pipeline/jit/pipeline.cc:636] Compile]
The function call stack (See file 'analyze_fail.dat' for details):
# 0 In file ../ops/cascade.py(125)
        if self.op[1] == 'depthwise':
    ^
# 1 In file ../ops/cascade.py(127)
        elif self.op[1] == 'conv':
    ^
# 2 In file ../ops/cascade.py(140)
                x = self.softmax(x)
                             ^
# 3 In file /usr/local/python3.x/lib/python3.x/site-packages/mindspore/nn/layer/conv.py(259)
        if self.has_bias:
# 4 In file /usr/local/python3.x/lib/python3.x/site-packages/mindspore/nn/layer/conv.py(261)
        return output

可能原因

昇腾模型压缩工具在保存量化感知训练模型阶段,会对原图进行编译,如果编译失败,会尝试将原图转成FP32,再次进行编译。

解决方法

用户无需关注上述错误打印,不影响业务功能。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词