首页 > 试题广场 >

BatchNorm 层对于 input batch 会统计出

[单选题]
BatchNorm 层对于 input batch 会统计出 mean 和 variance 用于计算 EMA。如果input batch 的 shape 为(B, C, H, W),统计出的 mean 和 variance 的 shape 为: ()
  • B * 1 * 1 * 1
  • 1 * C * 1 * 1
  • B * C * 1 * 1
  • 1 * 1 * 1 * 1
B代表图像的batch,即多少张图像一个batch。C代表图像的通道数。
BN是对多张图像的同一通道做Normalization
所以有多少通道就有多少个mean和variance
发表于 2019-07-27 15:35:08 回复(0)
先看一下卷积实现原理,对于in_c个通道的输入图,如果需要经过卷积后输出out_c个通道图,那么总共需要in_c * out_c个卷积核参与运算。参考下图:
BN 层的目的本就是用于归一化,所以显而易见要保证通道数C不变,其余长宽为0
发表于 2019-07-26 13:42:36 回复(0)
BN相当于将图像中的H,W,N(batchsize)归一化成一维的立方体
发表于 2021-07-02 09:33:49 回复(0)
BatchNorm 是跨样本的归一化,所以一定不含B
发表于 2023-08-30 16:39:40 回复(1)
BatchNorm字如其名,在B维度进行归一化,所以B维度应该变成1。但是H和W维度怎么也变成1了,有没有大佬可以帮我解答一下,不胜感激!
发表于 2023-12-13 01:29:20 回复(1)
<p>bn之后channel不变</p>
发表于 2020-11-26 00:07:17 回复(0)