获取更多样例
本节给出AMCT所有压缩特性的样例列表,用户可以根据具体要使用的功能,单击链接获取样例代码,也可以参见其中的README_CN.md运行样例。
特性 |
获取链接 |
---|---|
基于精度的自动量化 |
|
均匀量化 |
|
非均匀量化 |
|
量化感知训练 |
|
自动通道稀疏搜索 |
|
通道稀疏 |
|
4选2结构化稀疏 |
|
组合压缩 |
|
张量分解 |
|
单算子模式的量化感知训练 |
|
逐层蒸馏 |
|
KV Cache量化 |
父主题: AMCT工具(PyTorch)