CompressConfig
功能说明
权重压缩的参数配置类，保存权重压缩过程中配置的参数。
函数原型
CompressConfig(do_pseudo_sparse=False, sparse_ratio=1, is_debug=False, compress_disable_layers=None, record_detail_root=’./’, multiprocess_num=1)
参数说明
参数名 |
输入/返回值 |
含义 |
使用限制 |
|---|---|---|---|
do_pseudo_sparse |
输入 |
是否进行模拟权重稀疏。 |
可选。 数据类型：bool。 默认为False。 |
sparse_ratio |
输入 |
模拟权重稀疏时的稀疏率。 |
可选。 数据类型：float 默认为1，可选范围为[0, 1]。 |
is_debug |
输入 |
是否输出详细日志信息。 |
可选。 数据类型：bool。 默认为False。 |
compress_disable_layers |
输入 |
无需进行压缩指定层的权重。 |
可选。 数据类型：list或tuple。 默认为None。 |
record_detail_root |
输入 |
压缩过程的中间结果存放路径。 |
可选。 数据类型：String。 默认为”./”。 |
multiprocess_num |
输入 |
多进程压缩模式下开启进程数量。 |
可选。 数据类型：int。 默认值为1，使用单进程压缩模式。
说明：
用户需要根据设备环境设置multiprocess_num参数，以达到加速压缩权重的效果。设置过大的multiprocess_num值，可能会导致申请的系统资源不足，从而造成压缩程序运行失败。建议用户先设置当前系统可以打开的最大进程数，例如 ulimit -n 65536；然后再检查当前设备的NPU使用状况，确保无较大显存占用。multiprocess_num的建议值为8。 |
调用示例
from automl.modeslim.pytorch.weight_compression import CompressConfig
compress_config = CompressConfig(do_pseudo_sparse=False, sparse_ratio=1, is_debug=True, compress_disable_layer=None, record_detail_root=save_root, multiprocess_num=8)
父主题： 权重压缩接口
