文档
注册
评分
提单
论坛
小AI

UnlinkClusters

函数功能

进行device间断链。

函数原型

ge::Status UnlinkClusters(const std::vector<ClusterInfo> &clusters, std::vector<ge::Status> &rets, const int32_t timeout = -1)

参数说明

参数名

输入/输出

描述

clusters

输入

需要断链的cluster信息。类型为ClusterInfo

timeout

输入

断链超时时间,单位ms。默认超时-1,超时时间设置小于0,实际每个device的超时时间为3s。

rets

输出

每个cluster断链结果。

返回值

  • SUCCESS: 只有所有clusters断链成功,接口才会返回成功。
  • 其他: 执行推理失败,需要查看rets每个cluster的断链结果。

异常处理

  • LLM_PROCESSING_LINK:接口有锁保护,一个llm engine多线程调用断链接口会串行执行,其他线程等待时间超过设置的超时时间会报错退出
  • LLM_UNLINK_FAILED:断链失败。

约束说明

需要在LLMEngineIntialize或者LLMEngineIntializeV2接口初始化完成后调用。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词