SoftmaxFlash Tiling接口
功能说明
注意：该接口后续即将废弃，新开发内容不要使用该接口。
用于获取SoftmaxFlash Tiling参数。
函数原型
1 | uint32_t GetSoftMaxFlashMaxTmpSize(const ge::Shape& srcShape, const uint32_t dataTypeSize, const bool isUpdate, const bool isReuseSource) |
1 | uint32_t GetSoftMaxFlashMinTmpSize(const ge::Shape& srcShape, const uint32_t dataTypeSize, const bool isUpdate, const bool isReuseSource) |
1 | void SoftMaxFlashTilingFunc(const ge::Shape srcShape&, const uint32_t dataTypeSize, const uint32_t localWorkSpaceSize, optiling::SoftMaxTiling& softmaxFlashTiling, const bool isUpdate = false) |
参数说明
接口 |
输入/输出 |
功能 |
|---|---|---|
srcShape |
输入 |
输入srcTensor的shape信息。 |
dataTypeSize |
输入 |
参与计算的maxTensor和sumTensor的数据类型，比如half=2。 |
isUpdate |
输入 |
是否使能刷新功能，和kernel侧SoftmaxFlash接口一致，默认false。 |
isReuseSource |
输入 |
与kernel侧接口配置保持一致。 |
接口 |
输入/输出 |
功能 |
|---|---|---|
srcShape |
输入 |
输入srcTensor的shape信息。 |
localWorkSpaceSize |
输入 |
剩余的可供SoftmaxFlash接口计算的空间大小，单位为Byte。 |
dataTypeSize |
输入 |
参与计算的maxTensor和sumTensor的数据类型，比如half=2。 |
isUpdate |
输入 |
是否使能刷新功能，和kernel侧SoftmaxFlash接口一致，默认false。 |
softmaxFlashTiling |
输出 |
输出SoftmaxFlash接口所需的tiling信息。 |
返回值
GetSoftMaxFlashMaxTmpSize返回softmaxflash接口能完成计算所需最大临时空间大小，单位为Byte。
GetSoftMaxFlashMinTmpSize返回softmaxflash接口能完成计算所需最小临时空间大小，单位为Byte。
父主题： SoftMax
