InferenceResponse GetFlags接口获取到的标志定义 typedef enum InferResponseEndFlagEnum { // 请求继续迭代执行 INFER_RESPONSE_CONTINUE = 0, // 请求正常结束 INFER_RESPONSE_EOS = 1, // 请求被主动CANCEL或STOP,用户不感知,丢弃响应 INFER_RESPONSE_CANCEL = 2, // 请求执行中出错,响应输出为空,err_msg非空 INFER_RESPONSE_EXEC_ERROR = 3, // 请求输入校验异常,响应输出为空,err_msg非空 INFER_RESPONSE_ILLEGAL_INPUT = 4, // 请求因达到最大序列长度而结束,响应为最后一轮迭代输出 INFER_RESPONSE_REACH_MAX_SEQ_LEN = 5, // 请求因达到最大输出长度(包括请求和模型粒度)而结束,响应为最后一轮迭代输出 INFER_RESPONSE_REACH_MAX_OUTPUT_LEN = 6, } InferResponseEndFlag;