GetDTarget接口

接口功能

获取请求发往哪个D节点的IP。

接口格式

std::string GetDTarget() const;

接口参数

无。

使用样例

构造一个请求对象后，为该请求对象设置做完全量推理发往D节点的IP地址，然后再获取请求发往哪个D节点的IP。

1
2
3
4
5
mindie_llm::InferRequestId runtimeReqId(0);
std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId);
string serverIp = "";
runtimeRequest->SetDTarget(serverIp);
std::string ipTarget = runtimeRequest->GetDTarget();

返回值

目标server IP。

父主题： InferRequest