首页 > 试题广场 >

以下哪些方法有助于解决模型训练过程中的过拟合问题()

[不定项选择题]

以下哪些方法有助于解决模型训练过程中的过拟合问题()

  • 正则化
  • Dropout
  • Batch
    Normalization
  • 提前终止训练
  • 梯度下降
BN的优点: 可以将learning rate设置得大一点(减轻internal covariate shift) 可以减轻梯度消失,可以保持值在梯度大的地方,尤其是sigmoid,tanh等 可以减小初始化参数对学习的影响 可以对抗过拟合,等同于做了regularization 对training和test都有帮助,对training帮助更大李宏毅教授
发表于 2020-06-15 01:28:53 回复(0)
Batch Normalization有两个功能,一个是可以加快训练和收敛速度,另外一个是可以防止过拟合。
发表于 2020-07-08 00:36:03 回复(0)
BN不能解决过拟合啊
发表于 2019-04-16 03:50:57 回复(2)