aclopLoad
函数功能
从内存中加载单算子模型数据(单算子模型数据是指“单算子编译成*.om文件后,再将om文件读取到内存中”的数据),由用户管理内存。
约束说明
- 模型文件加载环境中的算子库版本需与模型文件编译环境的版本一致,否则在加载算子时会报错。
- 动态Shape算子场景
- 昇腾虚拟化实例场景
可通过${INSTALL_DIR}/opp/version.info文件中的version字段查看算子库版本。
${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。若安装的Ascend-cann-toolkit软件包,以root安装举例,则安装后文件存储路径为:/usr/local/Ascend/ascend-toolkit/latest。
- 在加载前,请先根据单算子om文件的大小评估内存空间是否足够,内存空间不足,会导致应用程序异常。
型号
一个进程内正在执行的算子的最大个数上限
Atlas 200/300/500 推理产品 Ascend EP标准形态下,上限是40000000。
Ascend RC形态下,上限是2000000。
Atlas 推理系列产品 Ascend EP标准形态下,上限是40000000。
Atlas 200I/500 A2 推理产品 Atlas 训练系列产品 40000000
Atlas A2 训练系列产品/Atlas 800I A2 推理产品 2000000
函数原型
aclError aclopLoad(const void *model, size_t modelSize)
参数说明
参数名 |
输入/输出 |
说明 |
---|---|---|
model |
输入 |
单算子模型数据的内存地址指针。 |
modelSize |
输入 |
内存中的模型数据长度,单位Byte。 |
返回值说明
返回0表示成功,返回其他值表示失败。