变更声明
本章节的接口变更说明包括新增、修改、删除和退出声明。接口变更只体现代码层面的修改,不包含文档本身在语言、格式、链接等方面的优化改进。
- 新增:表示此次版本新增的接口。
- 修改:表示本接口相比于上个版本有修改。
- 删除:表示该接口在此次版本已经删除。
- 退出声明:表示该接口自作出退出声明的版本起停止演进,且在后续版本退出并删除。
新增特性
类名/API原型 |
变更说明 |
---|---|
CloneOperationParam |
新增OP。 |
UpdateOperationParam |
|
LaserAttentionOperation |
|
LaserAttentionGradOperation |
|
SendOperation |
|
RecvOperation |
|
AllToAllOperation |
|
AllToAllVOperation |
|
DynamicNTKOperation |
|
LinearOperation |
新增支持Matmul+Bias融合、3维*3维、Matmul+InplaceAdd融合。 |
SelfAttentionOperation |
新增支持INT8量化、MLA功能、BNSD数据排布。 |
PagedAttentionOperation |
|
ActivationOperation |
新增支持Sigmoid激活类型。 |
IndexAddOperation |
新增支持INDEX_ADD_VALID。 |
GatingOperation |
支持专家并行。 |
修改特性
类名/API原型 |
变更说明 |
---|---|
SoftmaxOperation |
功能描述。 |
ElewiseOperation |
ELEWISE_QUANT增加描述。 |
GatingOperation |
功能描述。 |
AllGatherOperation |
hcclComm成员描述。 |
AllReduceOperation |
backend成员描述。 |
BroadcastOperation |
hcclComm成员描述。 |
LinearOperation |
功能描述。 |
删除特性
无
退出特性
类名/API原型 |
变更说明 |
---|---|
FfnParam |
预留接口移除。 |
FfnQuantParam |
预留接口移除。 |