下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

函数:get_output_size_by_index

C函数原型

size_t aclmdlGetOutputSizeByIndex(aclmdlDesc *modelDesc, size_t index)

Python函数

size = acl.mdl.get_output_size_by_index(model_desc, index)

函数功能

根据aclmdlDesc类型的数据,获取指定输出的大小,单位为Byte。

输入说明

model_desc:int,aclmdlDesc类型数据的指针地址。需提前调用acl.mdl.create_desc接口创建aclmdlDesc类型的数据。

index:int,指定获取第几个输出的大小,index值从0开始。

返回值说明

size:int,返回指定输出的大小,单位是Byte。

  • 针对动态Batch、动态分辨率(宽高)的场景,返回最大档位对应的输出的大小。
  • 静态场景下,返回指定输出的大小。单位是Byte。

约束说明

如果通过本接口获取的大小为0,有可能是由于输出Shape的范围不确定,当前支持以下两种处理方式:

  • 方式一:系统内部自行申请对应index的输出内存,节省内存,但内存数据使用结束后,需由用户释放内存,同时,系统内部申请内存时涉及内存拷贝,可能涉及性能损耗。

    调用acl.create_data_buffer接口创建存放对应index输出数据的aclDataBuffer类型时,可在data参数处传入0,表示创建一个空的aclDataBuffer类型,然后在模型执行过程中,系统内部自行计算并申请该index输出的内存。

  • 方式二:用户预估输出内存大小,并申请内存,由用户自行管理内存,但内存大小可能不足或超出,不足时系统会校验报错,超出时会浪费内存。

    用户需先根据实际情况预估一块较大的输出内存,在模型执行过程中,系统会校验用户指定的输出内存大小是否符合要求,如果不符合要求,系统会返回报错,并在报错信息中提示具体需要多大的输出内存。您可以通过以下两种方式查看报错:

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词