首页 > 试题广场 >

神经网络训练时可以将全部参数初始化为0。()

[单选题]
神经网络训练时可以将全部参数初始化为0。()
  • 正确
  • 错误
错误的,一般b会初始化为0,但w一般服从高斯分布
发表于 2019-08-04 22:30:51 回复(0)
更多回答
这道题有点坑啊,你当然可以初始化为0,只是效果不理想,做多了工作而已
发表于 2020-05-30 19:53:27 回复(1)
没有隐层时, 可以将所有的参数初始化为0。如果有隐层,对于隐层使用了ReLU: 本身, 不为0, 其余的所有层的输出都为0. BP时所有梯度也都为0, 包括输出层. 这意味着所有的非输入神经元都是dead neurons. 学习失败,所以,最后的结论是, 一般只在训练SLP/逻辑回归模型时才使用0初始化所有参数., 更实用的结论是, 深度模型都不会使用0初始化所有参数.
发表于 2020-07-08 00:21:10 回复(0)
一般只在训练SLP/逻辑回归模型时才使用0初始化所有参数., 更实用的结论是, 深度模型都不会使用0初始化所有参数.
发表于 2019-07-09 15:43:25 回复(0)
全部初始化为0,会导致权重对称:https://zhuanlan.zhihu.com/p/75879624
发表于 2021-03-10 19:39:53 回复(0)
全部为零是随机初始化的一种极端情况 为什么不可以 
发表于 2021-03-10 08:21:30 回复(0)
为什么不能设置为0,如果效果不好,可以调优啊!
发表于 2020-09-27 14:51:45 回复(0)