下载
中文
注册

重新编译TF Serving

重新安装其他版本CANN软件后,直接启动tensorflow_model_server服务,可能会因为动态链接库链接错误导致服务启动失败,报错如图1所示:

图1 动态链接库链接错误

解决方法如下所示:

  1. 进入“serving-1.15.0/third_party/tf_adapter”目录,执行如下命令。
    “tf_adapter”文件夹下拷贝存放“_tf_adapter.so”文件,并将“_tf_adapter.so”文件名修改为“lib_tf_adapter.so”
    cp /home/HwHiAiUser/Ascend/tfplugin/latest/python/site-packages/npu_bridge/_tf_adapter.so .
    mv _tf_adapter.so lib_tf_adapter.so
  2. 执行如下命令清理上次编译的缓存,防止增量编译。
    rm -rvf /opt/tf_serving
    bazel clean
  3. 编译TF Serving。

    在TF Serving安装目录“serving-1.15.0”下执行如下命令,编译TF Serving。

    bazel --output_user_root=/opt/tf_serving build -c opt --cxxopt="-D_GLIBCXX_USE_CXX11_ABI=0" tensorflow_serving/model_servers:tensorflow_model_server

    其中“--output_user_root”参数指定了TF Serving的安装路径。请根据实际进行指定。