首页
题库
面试
求职
学习
竞赛
More+
所有博客
搜索面经/职位/试题/公司
搜索
我要招人
去企业版
登录 / 注册
首页
>
算法/机器学习校招面试题目合集
>
Relu比Sigmoid的效果好在哪里?
125
问答题
125
/
376
Relu比Sigmoid的效果好在哪里?
参考答案
参考回答:
Sigmoid的导数只有在0的附近时有较好的激活性,而在正负饱和区域的梯度趋向于0,从而产生梯度弥散的现象,而relu在大于0的部分梯度为常数,所以不会有梯度弥散现象。Relu的导数计算的更快。Relu在负半区的导数为0,所以神经元激活值为负时,梯度为0,此神经元不参与训练,具有稀疏性。
纠错
收藏
查看讨论
1
...
120
121
122
123
124
125
126
127
128
129
130
...
376
跳转到
确 定
上一题
下一题
扫描二维码,关注牛客网
意见反馈
下载牛客APP,随时随地刷题