首页 > 试题广场 >

Relu比Sigmoid的效果好在哪里?

[问答题]

Relu比Sigmoid的效果好在哪里?

查看答案及解析
添加回答
MuMaXu头像 MuMaXu

总结

  • 计算梯度更快，sigmoid函数在计算梯度的时候须要进行幂运算，这相对而言更加的耗时

  • Sigmoid容易导致梯度消失，Sigmoid容易陷入饱和区域，这部分区域的梯度为0,

  • relu在激活值为负数的时候，梯度为0，此部分神经元不参与训练，可以更好地发现稀疏性

发表于 2019-05-06 16:51:07 回复(0)
提交观点

问题信息

上传者：小小
难度：
1条回答 1675浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号