InferResponseEndFlag枚举

枚举功能

响应中EndFlag枚举。

枚举格式

enum class InferResponseEndFlag{
    INFER_RESPONSE_CONTINUE = 0,
    INFER_RESPONSE_EOS = 1,
    INFER_RESPONSE_CANCEL = 2,
    INFER_RESPONSE_EXEC_ERROR = 3,
    INFER_RESPONSE_ILLEGAL_INPUT = 4,
    INFER_RESPONSE_REACH_MAX_SEQ_LEN = 5,
    INFER_RESPONSE_REACH_MAX_OUTPUT_LEN = 6,
};

枚举值

枚举名	说明
INFER_RESPONSE_CONTINUE	请求继续迭代执行。
INFER_RESPONSE_EOS	请求正常结束。
INFER_RESPONSE_CANCEL	请求被主动CANCEL或STOP，用户不感知，丢弃响应。
INFER_RESPONSE_EXEC_ERROR	请求执行中出错，响应输出为空，err_msg非空。
INFER_RESPONSE_ILLEGAL_INPUT	请求输入校验异常，响应输出为空，err_msg非空。
INFER_RESPONSE_REACH_MAX_SEQ_LEN	请求因达到最大序列长度而结束，响应为最后一轮迭代输出。
INFER_RESPONSE_REACH_MAX_OUTPUT_LEN	请求因达到最大输出长度（包括请求和模型粒度）而结束，响应为最后一轮迭代输出。

父主题： 结构体和枚举说明