Dropout 是一种有效的正则化手段,其效果类似于训练多个不同结构模型的集成。
在推理阶段,需要将网络权重乘以保持概率 (keep_prob) 来进行补偿,以保证输出的期望与训练时一致。
Dropout 迫使网络中的神经元学习更加鲁棒和独立的特征,而不是依赖于其他特定神经元的存在。
Dropout 的主要缺点是显著增加了模型在推理阶段的计算开销。
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题