save_qsin_qat_model
功能说明
量化模型保存接口,将量化后模型保存为可在昇腾硬件上进行推理的.onnx模型。
函数原型
save_qsin_qat_model(model, filename, input_shape)
参数说明
参数名 |
输入/返回值 |
含义 |
使用限制 |
---|---|---|---|
model |
输入 |
待量化模型实例。 |
必选。 数据类型:torch.nn.Module。 |
filename |
输入 |
量化后的模型的存放路径和文件名。 文件后缀需为.onnx。 |
必选。 数据类型:String。 |
input_shape |
输入 |
量化后模型输入的shape。 |
必选。 数据类型:tuple。 |
调用示例
from modelslim.pytorch.quant.qat import qsin_qat, save_qsin_qat_model from torchvision.models import resnet50 import torch model=resnet50() criterion=torch.nn.CrossEntropyLoss() model, criterion = qsin_qat(model, criterion) save_qsin_qat_model(model, 'quantized_model.onnx', (1, 3, 224, 224))
父主题: 量化感知训练