from_vbmf
功能说明
Decompose 类方法,模型低秩分解各层的分解率配置,指定VBMF可变贝叶斯矩阵分解秩搜索方式,自动计算分解后的channel 数,返回自身用于链式调用,通常适用于有预训练权重的模型。
函数原型
from_vbmf(excludes=None, divisor=64)
参数说明
参数名 |
输入/返回值 |
含义 |
使用限制 |
---|---|---|---|
excludes |
输入 |
指定不分解的层名称。 |
可选。 数据类型:None或列表或元组。 默认值为None。 |
divisor |
输入 |
指定分解后channel的倍率,如指定16,则分解后的channel 数为 16 的倍数。 |
可选。 数据类型:整数,且大于0,默认值为64。
说明:
divisor设置为1时,表示禁用此功能。 |
调用示例
from msmodelslim.pytorch import low_rank_decompose decomposer = low_rank_decompose.Decompose(model) #调用__init__初始化类 decomposer = decomposer.from_vbmf(divisor=16) #按照vbmf方式计算分解信息
父主题: Decompose