decompose_network

功能说明

按照用户配置的各层分解率，执行低秩分解，并返回分解后的模型。

函数原型

decompose_network(do_decompose_weight=True, datasets=None, max_iter=-1)

参数说明

参数名	输入/返回值	含义	使用限制
do_decompose_weight	输入	指定是否执行权重分解，并设置为分解后的模型。	可选。数据类型：布尔值。默认值为True，可取值为True或False，若取值为False，则只将模型转化为低秩分解后的模型结构，各层权重为随机初始化的值。
datasets	输入	输入数据集。若取值不为None时，则需要使用data aware输入数据感知分解	可选。默认值为None。若不为None，需输入模型可以直接遍历执行的数据集，其元素为 dict或list或tuple。
max_iter	输入	datasets不为None，指定data aware分解时，从datasets中取数据的最大迭代数	可选。数据类型：整数。默认值为-1，-1表示使用整个数据集，> 0 的值则表示在数据集中迭代的最大值。

参数名

输入/返回值

含义

使用限制

do_decompose_weight

输入

指定是否执行权重分解，并设置为分解后的模型。

可选。

数据类型：布尔值。

默认值为True，可取值为True或False，若取值为False，则只将模型转化为低秩分解后的模型结构，各层权重为随机初始化的值。

datasets

输入

输入数据集。若取值不为None时，则需要使用data aware输入数据感知分解

可选。

默认值为None。若不为None，需输入模型可以直接遍历执行的数据集，其元素为 dict或list或tuple。

max_iter

输入

datasets不为None，指定data aware分解时，从datasets中取数据的最大迭代数

可选。

数据类型：整数。默认值为-1，-1表示使用整个数据集，> 0 的值则表示在数据集中迭代的最大值。

调用示例

from msmodelslim.pytorch import low_rank_decompose
decomposer = low_rank_decompose.Decompose(model).from_ratio(0.5, divisor=16)  
model = decomposer.decompose_network(do_decompose_weight=True)

父主题： Decompose