结构体和枚举说明
InferDataType
StatusResponseType枚举类
BYTE_SIZE_MAP
Code枚举类
NodeHealthStatus枚举类
Compare结构体
Datatype枚举类
MemType枚举类
InferReqType枚举类
Operation枚举类
父主题：
LLM Manager提供的C++接口