save()
功能说明
量化参数配置类,通过calibrator类封装量化算法来保存量化后的权重及相关参数。
需注意,因为在存储量化参数过程中存在反序列化风险,所以已通过在存储过程中,将保存的量化结果文件夹权限设置为750,量化结果文件权限设置为400来消减风险。
函数原型
calibrator.save(outpath_path)
参数说明
参数名 |
输入/返回值 |
含义 |
使用限制 |
---|---|---|---|
output_path |
输入 |
量化后的权重及相关参数保存路径。 |
必选。 数据类型:String。 |
父主题: 大模型量化接口