如果用户有自己计算得到的量化因子以及TensorFlow原始模型,该模型无法直接使用ATC工具转成适配昇腾AI处理器的离线模型,需要借助AMCT提供的convert_model接口,将该模型转成CANN量化模型格式,然后才能使用ATC工具,将CANN量化模型转成适配昇腾AI处理器的离线模型。该场景下的适配示例请参见获取更多样例>mobilenetv2。
适配原理如图1所示,蓝色部分为用户实现,灰色部分为用户调用AMCT提供的convert_model接口实现,用户在TensorFlow原始网络推理的代码中导入库,并在特定的位置调用相应API,即可实现模型适配功能。
本示例演示如何使用convert_model接口对原始模型进行适配。
import amct_tensorflow as amct amct.set_logging_level(print_level='info', save_level='info')
推荐执行该步骤,以确保原始模型可以完成推理且精度正常;执行该步骤时,可以使用部分测试集,减少运行时间。
user_do_inference(ori_model, test_data)
quant_model_path = './result/user_model' record_file = './result/record.txt' amct.convert_model(pb_model=ori_model, outputs=ori_model_outputs, record_file=record_file, save_path=quant_model_path)
使用量化后仿真模型精度与2中的原始精度做对比,可以观察量化对精度的影响。
quant_model = './results/user_model_quantized.pb' user_do_inference(quant_model, test_data)