AdamW使用更大的动量系数
AdamW将权重衰减从梯度更新中解耦,直接作用于参数
AdamW不使用二阶矩估计
AdamW的学习率自动衰减
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题