aclrtSubscribeReport
函数功能
异步任务场景下,注册处理Stream上回调函数的线程。
本接口需与以下其它接口配合使用,以便实现异步场景下的callback功能:
- 定义并实现回调函数,函数原型为:typedef void (*aclrtCallback)(void *userData);
- 新建线程,在线程函数内,调用aclrtProcessReport接口设置超时时间(需循环调用),等待回调任务执行;
- 调用aclrtSubscribeReport接口建立第2步中的线程和Stream的绑定关系,该Stream下发的回调函数将在绑定的线程中执行;
- 在指定Stream上执行异步任务(例如异步推理任务);
- 调用aclrtLaunchCallback接口在Stream的任务队列中下发回调任务,触发第2步中注册的线程处理回调函数,每调用一次aclrtLaunchCallback接口,就会触发一次回调函数的执行;
- 异步任务全部执行完成后,取消线程注册(aclrtUnSubscribeReport接口)。
约束说明
- 支持多次调用aclrtSubscribeReport接口给多个Stream(仅支持同一Device内的多个Stream)注册同一个处理回调函数的线程;
- 为确保Stream内的任务按调用顺序执行,不支持调用aclrtSubscribeReport接口给同一个Stream注册多个处理回调函数的线程;
- 在Atlas 200/300/500 推理产品上,单进程内调用aclrtSubscribeReport接口注册的线程数量如果超过128个,则接口返回失败;
- 在Atlas 训练系列产品上,单进程内调用aclrtSubscribeReport接口注册的线程数量如果超过1024个,则接口返回失败;
- 在Atlas A2训练系列产品上,单进程内调用aclrtSubscribeReport接口注册的线程数量如果超过1024个,则接口返回失败;
- 在Atlas 推理系列产品(Ascend 310P处理器)上,单进程内调用aclrtSubscribeReport接口注册的线程数量如果超过1024个,则接口返回失败;
- Atlas 200I/500 A2推理产品,单进程内调用aclrtSubscribeReport接口注册的线程数量如果超过1024个,则接口返回失败;
- 考虑操作系统的线程切换性能开销,建议调用aclrtSubscribeReport接口注册的线程数量控制在32个以下(包括32);
- 同一个进程内,在不同的Device上注册回调函数的线程时,不能指定同一个线程ID。
函数原型
aclError aclrtSubscribeReport(uint64_t threadId, aclrtStream stream)
参数说明
参数名 |
输入/输出 |
说明 |
---|---|---|
threadId |
输入 |
指定线程的ID。 |
stream |
输入 |
指定Stream。 |
返回值说明
返回0表示成功,返回其它值表示失败。
参考资源
接口调用流程及示例代码,参见异步模型推理。
父主题: 执行控制