SetDTarget接口

接口功能

设置请求发往哪个D节点的server IP。

接口格式

void SetDTarget(std::string &dTarget);

接口参数

参数	是否必选	说明	取值要求
dTarget	是	设置做完全量推理发往D节点的ip地址。	字符串类型，server ip地址。

使用样例

mindie_llm::InferRequestId runtimeReqId(0);
std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId);
string serverIp = "";
runtimeRequest->SetDTarget(serverIp);

返回值

无。

父主题： InferRequest