下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

aclrtCreateStream

函数功能

创建一个Stream。

约束说明

  • 每个Context对应一个默认Stream,该默认Stream是调用aclrtSetDevice接口或aclrtCreateContext接口隐式创建的。推荐调用aclrtCreateStream接口显式创建Stream。
    • 隐式创建Stream:适合简单、无复杂交互逻辑的应用,但缺点在于,在多线程编程中,执行结果取决于线程调度的顺序。
    • 显式创建Stream:推荐显式,适合大型、复杂交互逻辑的应用,且便于提高程序的可读性、可维护性。
  • 不同型号的硬件支持的Stream最大数不同,如果已存在多个Stream(包含默认Stream、执行内部同步的Stream),则只能显示创建N个Stream,N = Stream最大数 - 已存在的Stream数。例如,Stream最大数为1024,已存在2个Stream,则只能调用本接口显式创建1022个Stream。

    型号

    Stream最大数

    Atlas 200/300/500 推理产品

    1024

    Atlas 200/500 A2推理产品

    512

    Atlas 推理系列产品

    1024

    说明:

    标准形态下,存在执行内部同步的Stream。

    Atlas 训练系列产品

    2048

    说明:

    多进程场景下,若一次性创建的Stream数量总和接近2048,可能会出现创建Stream失败的情况,此时,建议:(1)清理冗余Stream,减少不必要的Stream;(2)调整代码逻辑,分批创建Stream,例如第一批创建部分Stream,然后第二批再创建部分Stream,以此类推,直到Stream总数接近2048。

    Atlas A2训练系列产品/Atlas 800I A2推理产品

    2048

函数原型

aclError aclrtCreateStream(aclrtStream *stream)

参数说明

参数名

输入/输出

说明

stream

输出

Stream的指针。

返回值说明

返回0表示成功,返回其他值表示失败。

参考资源

接口调用流程及示例,参见运行管理资源申请与释放

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词