在线推理简介

在线推理是指在TensorFlow框架内使用已经训练好的pb模型实时进行推理，相比于离线推理场景，在线推理类业务时效性要求较高，常用于数据中心推理场景。

开发者可参考本节方便地将原来基于Tensorflow框架做推理的应用迁移到昇腾平台。