下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

SoftmaxFlash Tiling接口

功能说明

注意:该接口后续即将废弃,新开发内容不要使用该接口

用于获取SoftmaxFlash Tiling参数。

函数原型

1
uint32_t GetSoftMaxFlashMaxTmpSize(const ge::Shape& srcShape, const uint32_t dataTypeSize, const bool isUpdate, const bool isReuseSource)
1
uint32_t GetSoftMaxFlashMinTmpSize(const ge::Shape& srcShape, const uint32_t dataTypeSize, const bool isUpdate, const bool isReuseSource)
1
void SoftMaxFlashTilingFunc(const ge::Shape srcShape&, const uint32_t dataTypeSize, const uint32_t localWorkSpaceSize, optiling::SoftMaxTiling& softmaxFlashTiling, const bool isUpdate = false)

参数说明

表1 SoftmaxFlash GetSoftMaxFlashMaxTmpSize/GetSoftMaxFlashMinTmpSize接口参数列表

接口

输入/输出

功能

srcShape

输入

输入srcTensor的shape信息。

dataTypeSize

输入

参与计算的maxTensor和sumTensor的数据类型,比如half=2。

isUpdate

输入

是否使能刷新功能,和kernel侧SoftmaxFlash接口一致,默认false。

isReuseSource

输入

与kernel侧接口配置保持一致。

表2 SoftmaxFlash SoftMaxFlashTilingFunc接口参数列表

接口

输入/输出

功能

srcShape

输入

输入srcTensor的shape信息。

localWorkSpaceSize

输入

剩余的可供SoftmaxFlash接口计算的空间大小,单位为Byte。

dataTypeSize

输入

参与计算的maxTensor和sumTensor的数据类型,比如half=2。

isUpdate

输入

是否使能刷新功能,和kernel侧SoftmaxFlash接口一致,默认false。

softmaxFlashTiling

输出

输出SoftmaxFlash接口所需的tiling信息。

返回值

GetSoftMaxFlashMaxTmpSize返回softmaxflash接口能完成计算所需最大临时空间大小,单位为Byte。

GetSoftMaxFlashMinTmpSize返回softmaxflash接口能完成计算所需最小临时空间大小,单位为Byte。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词