aclmdlGetDynamicBatch
函数功能
根据模型描述信息获取模型支持的动态Batch信息。
函数原型
aclError aclmdlGetDynamicBatch(const aclmdlDesc *modelDesc, aclmdlBatch *batch)
参数说明
参数名 |
输入/输出 |
说明 |
---|---|---|
modelDesc |
输入 |
aclmdlDesc类型的指针。 需提前调用aclmdlCreateDesc接口创建aclmdlDesc类型的数据。 |
batch |
输出 |
const int ACL_MAX_BATCH_NUM = 128; typedef struct aclmdlBatch { size_t batchCount; /**模型中支持的batch分档数 */ uint64_t batch[ACL_MAX_BATCH_NUM]; /**模型中支持的具体分档 */ } aclmdlBatch; batchCount等于0时,表示不支持设置档位信息,以模型中的档位为准。 |
返回值说明
返回0表示成功,返回非0表示失败。
父主题: aclmdlDesc