应用场景
支持以下模型推理接口：
同步推理（token_id to token_id）
异步推理（token_id to token_id）
全量文本推理（text to text）
流式文本推理（text to text）
支持以下请求管理接口：
提前终止推理请求
统计slot数量
支持以下服务状态查询接口：
查询Server和Model的状态和元数据
查询Model配置
父主题：
MindIE Client