AddRmsNormFusionGraphPass
融合模式
该融合将符合图融合pattern的Add算子和RmsNorm算子融合成融合算子AddRmsNorm,其中Add算子的输出作为RmsNorm算子的第一个输入。
使用约束
- Add算子的输入X1和X2的shape/dtype要一致。
- format只支持ND。
支持的型号
Atlas A2训练系列产品/Atlas 800I A2推理产品
父主题: 图融合规则说明
该融合将符合图融合pattern的Add算子和RmsNorm算子融合成融合算子AddRmsNorm,其中Add算子的输出作为RmsNorm算子的第一个输入。
Atlas A2训练系列产品/Atlas 800I A2推理产品