部署Service服务时，出现atb_llm.runner无法import报错

问题描述

部署Service服务时，出现atb_llm.runner无法import，如下图所示。

原因分析

由于Python版本不是配套版本3.10，或者pip对应的Python版本不是目标版本3.10，找不到对应的包。可以通过python和pip -V查看对应的Python版本进行确认。

解决步骤

1. 使用以下命令打开bashrc文件。

   vim ~/.bashrc

2. 在bashrc文件内添加如下环境变量，保存并退出。

   ## 例如系统使用3.10.13版本，安装目录位于/usr/local/python3.10.13
   export LD_LIBRARY_PATH=/usr/local/python3.10.13/lib:$LD_LIBRARY_PATH
   export PATH=/usr/local/python3.10.13/bin:$PATH

3. 使用以下命令使环境变量生效。

   source ~/.bashrc

4. 使用以下命令建立软链接。

   ln -s /usr/local/python3.10.13/bin/python3.10 /usr/bin/python
   ln -s /usr/local/python3.10.13/bin/pip3.10 /usr/bin/pip