硬件环境

PD分离部署支持的硬件环境如表1所示。

表1 PD分离部署支持的硬件列表

类型

型号

内存

服务器

Atlas 800I A2 推理产品

  • 32GB
  • 64GB

集群必须具备参数面互联:即服务器NPU卡对应的端口处在同一个VLAN,可以通过RoCE互通。