tanh
sigmoid
ReLU
leaky ReLU
Sigmoid的导数是,导数值范围是,连续乘上几次就容易梯度消失了。tanh的导数是, 当接近1或者-1的时候,导数值也会变成0。
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题