PyTorch在线推理场景下调优

Atlas A2训练系列产品/Atlas 800I A2推理产品场景下,不支持在线推理场景下调优。
PyTorch在线推理场景支持算子调优,PyTorch在线推理场景下调优和PyTorch训练场景下调优的过程基本相同,可参考PyTorch训练场景下离线调优。
PyTorch在线推理场景下调优和PyTorch训练场景下调优的区别是:在线推理场景执行的是在线推理脚本,训练场景执行的是训练脚本。
父主题: 在线推理场景下调优
Atlas A2训练系列产品/Atlas 800I A2推理产品场景下,不支持在线推理场景下调优。
PyTorch在线推理场景支持算子调优,PyTorch在线推理场景下调优和PyTorch训练场景下调优的过程基本相同,可参考PyTorch训练场景下离线调优。
PyTorch在线推理场景下调优和PyTorch训练场景下调优的区别是:在线推理场景执行的是在线推理脚本,训练场景执行的是训练脚本。