PyTorch在线推理场景下调优

PyTorch在线推理场景支持算子调优，PyTorch在线推理场景下调优和PyTorch训练场景下调优的过程基本相同，可参考PyTorch训练场景下离线调优。

PyTorch在线推理场景下调优和PyTorch训练场景下调优的区别是：在线推理场景执行的是在线推理脚本，训练场景执行的是训练脚本。