InferResponseEndFlagEnum枚举

InferenceResponse GetFlags接口获取到的标志定义
typedef enum InferResponseEndFlagEnum {
    // 请求继续迭代执行
    INFER_RESPONSE_CONTINUE = 0,
    // 请求正常结束
    INFER_RESPONSE_EOS = 1,
    // 请求被主动CANCEL或STOP,用户不感知,丢弃响应
    INFER_RESPONSE_CANCEL = 2,
    // 请求执行中出错,响应输出为空,err_msg非空
    INFER_RESPONSE_EXEC_ERROR = 3,
    // 请求输入校验异常,响应输出为空,err_msg非空
    INFER_RESPONSE_ILLEGAL_INPUT = 4,
    // 请求因达到最大序列长度而结束,响应为最后一轮迭代输出
    INFER_RESPONSE_REACH_MAX_SEQ_LEN = 5,
    // 请求因达到最大输出长度(包括请求和模型粒度)而结束,响应为最后一轮迭代输出
    INFER_RESPONSE_REACH_MAX_OUTPUT_LEN = 6,
} InferResponseEndFlag;