SetDecoderClusterId

设置LLM执行请求的增量cluster id。

void SetDecoderClusterId(const uint64_t decoder_cluster_id)

参数名	输入/输出	描述
decoder_cluster_id	输入	执行请求中的实际句子长度。

无

无

无

父主题： LLMReq