aclmdlGetDynamicBatch

函数功能

根据模型描述信息获取模型支持的动态Batch信息。同步接口。

函数原型

aclError aclmdlGetDynamicBatch(const aclmdlDesc *modelDesc, aclmdlBatch *batch)

参数说明

参数名

输入/输出

说明

modelDesc

输入

aclmdlDesc类型的指针。

需提前调用aclmdlCreateDesc接口创建aclmdlDesc类型的数据。

batch

输出

const int ACL_MAX_BATCH_NUM = 128;
typedef struct aclmdlBatch {
    size_t batchCount; /**模型中支持的batch分档数 */
    uint64_t batch[ACL_MAX_BATCH_NUM]; /**模型中支持的具体分档 */
} aclmdlBatch;

batchCount等于0时,表示不支持设置档位信息,以模型中的档位为准。

返回值说明

返回0表示成功,返回非0表示失败。