SetPromptClusterId
函数功能
设置LLM执行请求所属的cluster id。
函数原型
void SetPromptClusterId(const uint64_t prompt_cluster_id)
参数说明
参数名 |
输入/输出 |
描述 |
---|---|---|
prompt_cluster_id |
输入 |
全量集群的cluster id。 |
返回值
无
异常处理
无
约束说明
无
父主题: LLMReq