下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

aclmdlExecConfigAttr

typedef enum {
    ACL_MDL_STREAM_SYNC_TIMEOUT = 0,
    ACL_MDL_EVENT_SYNC_TIMEOUT,
    ACL_MDL_WORK_ADDR_PTR,
    ACL_MDL_WORK_SIZET,
    ACL_MDL_MPAIMID_SIZET,      /** param reserved */ 
    ACL_MDL_AICQOS_SIZET,       /** param reserved */ 
    ACL_MDL_AICOST_SIZET,       /** param reserved */ 
    ACL_MDL_MEC_TIMETHR_SIZET   /** param reserved */ 
} aclmdlExecConfigAttr;
表1 枚举项说明

枚举项

说明

ACL_MDL_STREAM_SYNC_TIMEOUT

在执行模型推理时控制Stream任务的超时时间。该属性值为INT32类型。

取值说明如下:

  • -1:表示永久等待;
  • >0:配置具体的超时时间,单位是毫秒。

ACL_MDL_EVENT_SYNC_TIMEOUT

在执行模型推理时控制Event任务的超时时间。该属性值为INT32类型。

取值说明如下:

  • -1:表示永久等待;
  • >0:配置具体的超时时间,单位是毫秒。

ACL_MDL_WORK_ADDR_PTR

模型所需工作内存(Device上存放模型执行过程中的临时数据)的指针,由用户管理工作内存。一般用于模型一次加载、多并发执行的场景。

如果同时配置ACL_MDL_WORK_ADDR_PTR以及aclrtStreamConfigAttr中的ACL_RT_STREAM_WORK_ADDR_PTR(表示Stream上模型的工作内存),则以ACL_MDL_WORK_ADDR_PTR优先。

当前版本不支持该配置。

ACL_MDL_WORK_SIZET

模型所需工作内存的大小,单位为Byte。一般用于模型一次加载、多并发执行的场景。

当前版本不支持该配置。

ACL_MDL_MPAIMID_SIZET

预留配置。

ACL_MDL_AICQOS_SIZET

预留配置。

ACL_MDL_AICOST_SIZET

预留配置。

ACL_MDL_MEC_TIMETHR_SIZET

预留配置。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词