首页 > 试题广场 >

增加神经元的失活率(keep_prob)0.5->0.

[不定项选择题]
增加神经元的失活率 (keep_prob) 0.5 -> 0.6 ,可能会发生下面那些情况?()
  • 增加正则化影响 
  • 降低正则化影响
  •  增加训练集错误率
  • 降低训练集错误率
Dropout率(keep_prob)为保留一个神经元为激活状态的概率.Dropout率越高,意味着更多神经元是激活的,正规化程度越低。Dropout是bagging的近似集成,dropout可以随机的让一部分神经元失活,这样仿佛是bagging的采样过程,因此可以看做是bagging的廉价的实现. 使用Dropout的目的是为了防止过拟合,增加keep_prob,训练集的错误会降低。
发表于 2020-06-24 10:19:45 回复(3)
题目把失活率改成存活率更好
发表于 2021-09-03 11:32:08 回复(0)
正则化项一般是模型复杂度的单调递增函数,模型越复杂,正则化值就越大。所以dropout值越大失活的神经元数量就越多,模型的复杂度越低,从而正则化值越小。使用dropout是为了防止过拟合,主要是能提高测试集的准确率。而对于训练集如果本身就是欠拟合的话增大dropout并不会降低训练集的错误率。所以这个我认为应该选A,C,D。个人觉得答案有问题。
发表于 2020-07-24 16:13:54 回复(0)