ascendie.ActivationKind

relu

表示 ReLU 激活函数。

sigmoid

表示 Sigmoid 激活函数。

leaky_relu

表示 LeakyRelu 激活函数。

hard_sigmoid

表示 Hard Sigmoid 激活函数。

tanh

表示 Tanh 激活函数。

swish

表示 Swish 激活函数。

mish

表示 Mish 激活函数。（当前版本暂不使用，为预留成员属性）

gelu

表示 Gelu 激活函数。