下载
中文
注册

推理请求URI

  • 推理服务的URI路径限定的字符集合为字母、数字、符号(+、-、_、/),URI路径长度限制为[3, 255]。如不符合上述条件的URI会被识别为非法URI。服务端将返回非法URI的错误码给客户端。
  • 请勿在整个URI中拼接参数以及非法字符,否则可能被视为非法URI的错误返回给客户端。
  • 请勿将敏感信息写入URI。
  • 支持OPTIONS和HEAD请求,OPTIONS和HEAD请求采用Flask框架默认支持的功能。
  • 推理流推理请求接口POST v2/streams/${STREAM_NAME}/infer

    其中${STREAM_NAME}为推理流名称。

  • 单模型推理请求接口POST v2/models/${MODEL_NAME}/infer

    其中${MODEL_NAME}为模型名称。

    推理请求的请求体要求存在键“inputs”,其对应的值必须为一个列表,参考请求配置项中推理请求JSON字段,“inputs”对应列表单个张量说明请参照推理配置项目表 张量配置项,推理请求需要填写表中最后一项参数“data”

    推理响应参考请求配置项中推理响应JSON字段,参数说明如下:

    表1 推理请求响应字段

    字段名称

    描述

    数据类型

    isSuccess

    推理是否成功

    布尔值

    errorCode

    错误码

    整型

    errorMsg

    错误消息

    字符串

    outputs

    输出张量

    Tensor

    • ${MODEL_NAME}${STREAM_NAME}限制为字符串形式,字符集合为字母、数字、符号(+-_)的组合。
    • POST请求“content_type”需要设置为“application/json”