EndPoint提供的RESTful接口

兼容TGI 0.9.4版本接口
兼容vLLM 0.2.6版本接口
兼容OpenAI接口
兼容Triton接口
自研接口

父主题： API接口参考