save_qsin_qat_model

功能说明

量化模型保存接口，将量化后模型保存为可在昇腾硬件上进行推理的.onnx模型。

函数原型

save_qsin_qat_model(model,filename, input_shape)

参数说明

参数名	输入/返回值	含义	使用限制
model	输入	待量化模型实例。	必选。数据类型：PyTorch模型。
filename	输入	量化后的模型的存放路径和文件名。文件后缀需为.onnx。	必选。数据类型：String。
input_shape	输入	量化后模型输入的shape。	必选。数据类型：tuple。

参数名

输入/返回值

含义

使用限制

model

输入

待量化模型实例。

必选。

数据类型：PyTorch模型。

filename

输入

量化后的模型的存放路径和文件名。

文件后缀需为.onnx。

必选。

数据类型：String。

input_shape

输入

量化后模型输入的shape。

必选。

数据类型：tuple。

调用示例

from modelslim.pytorch.quant.qat import qsin_qat, save_qsin_qat_model
from torchvision.models import resnet50
import torch
model=resnet50()
criterion=torch.nn.CrossEntropyLoss()
model, criterion = qsin_qat(model, criterion)
save_qsin_qat_model(model, 'quantized_model.onnx', (1, 3, 224, 224))

父主题： 量化感知训练