下载
中文
注册

类说明

MindIEHTTPClient类封装了HTTP请求接口,具体接口如下所示。

  • 模型推理接口:infer、async_infer、generate、generate_stream、generate_stream_with_details、generate_stream_self。
  • 请求管理接口:cancel和get_slot_count。
  • 服务状态查询接口:is_server_live、is_server_ready、is_model_ready、get_server_metadata、get_model_metadata、get_model_config。