文档
注册
评分
提单
论坛
小AI

SetFixpipePreQuantFlag

功能说明

DataCopy(CO1->GM、CO1->A1)过程中进行随路量化时,通过调用该接口设置量化流程中scalar量化参数。

函数原型

1
__aicore__ inline void SetFixpipePreQuantFlag(uint64_t config)

参数说明

表1 参数说明

参数名称

输入/输出

含义

config

输入

deq scalar,类型为uint64_t,是量化过程中会使用到的量化参数。

支持的型号

Atlas A2训练系列产品/Atlas 800I A2推理产品

返回值

调用示例

完整示例可参考完整示例

1
2
uint64_t deqScalar = 11;
AscendC::SetFixpipePreQuantFlag(deqScalar);
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词