SetPromptLength
函数功能
设置LLM执行请求的全量实际句子长度。
函数原型
void SetPromptLength(const uint64_t prompt_length)
参数说明
参数名 |
输入/输出 |
描述 |
|---|---|---|
prompt_length |
输入 |
执行请求中的全量实际句子长度。 |
返回值
无
异常处理
无
约束说明
无
父主题： LLMReq
我要评分
在线提单
论坛求助
昇腾小AI
