SetPrefixId

函数功能

设置LLM执行请求的公共前缀id。

函数原型

void SetPrefixId(const uint64_t prefix_id)

参数说明

返回值

无

异常处理

无

约束说明

无