FAQ
发送请求返回乱码
部署Service服务时出现LLMPythonModel initializes fail的报错提示
加载模型时出现out of memory报错提示
部署Service服务时,出现atb_llm.runner无法import报错
部署Service服务时,找不到tlsCert等路径
MindIE Benchmark使用Client推理模式运行时出现HTTPS连接错误
使用MindIE MS部署单机任务后系统出现异常,不能通过MindIE MS客户端卸载
使用MindIE MS部署多机任务后系统出现异常,不能通过MindIE MS客户端卸载
使用MindIE Benchmark或者脚本发送请求时出现超时提醒
使用第三方库transformers跑模型推理时,报错“cannot allocate memory in static TLS block”