推理请求URI

- 推理服务的URI路径限定的字符集合为字母、数字、符号(+、-、_、/),URI路径长度限制为[3, 255]。如不符合上述条件的URI会被识别为非法URI。服务端将返回非法URI的错误码给客户端。
- 请勿在整个URI中拼接参数以及非法字符,否则可能被视为非法URI的错误返回给客户端。
- 请勿将敏感信息写入URI。
- 支持OPTIONS和HEAD请求,OPTIONS和HEAD请求采用Flask框架默认支持的功能。
- 推理流推理请求接口POST v2/streams/${STREAM_NAME}/infer
其中${STREAM_NAME}为推理流名称。
- 单模型推理请求接口POST v2/models/${MODEL_NAME}/infer
其中${MODEL_NAME}为模型名称。
推理请求的请求体要求存在键“inputs”,其对应的值必须为一个列表,参考请求配置项中推理请求JSON字段,“inputs”对应列表单个张量说明请参照推理配置项目中表 张量配置项,推理请求需要填写表中最后一项参数“data”。
推理响应参考请求配置项中推理响应JSON字段,参数说明如下:
表1 推理请求响应字段 字段名称
描述
数据类型
isSuccess
推理是否成功
布尔值
errorCode
错误码
整型
errorMsg
错误消息
字符串
outputs
输出张量
Tensor
- ${MODEL_NAME}和${STREAM_NAME}限制为字符串形式,字符集合为字母、数字、符号(+-_)的组合。
- POST请求“content_type”需要设置为“application/json”。
父主题: RESTful接口