文档HOT
下载
中文
注册

SetPromptLength

函数功能

设置LLM执行请求的全量实际句子长度。

函数原型

void SetPromptLength(const uint64_t prompt_length)

参数说明

参数名

输入/输出

描述

prompt_length

输入

执行请求中的全量实际句子长度。

返回值

无

异常处理

无

约束说明

无

父主题： LLMReq