bool SetMaxOutputLen(uint32_t max_output_len)

接口功能

设置推理请求返回token的最大值。

接口格式

bool SetMaxOutputLen(uint32_t max_output_len);

接口参数

参数

是否必选

说明

取值要求

max_output_len

必选

推理请求返回token的最大值。

合法的推理请求返回token最大值。

使用样例

返回值