关注
就算你超参数不变,每次随机初始化,训练的结果都不一样。梯度下降法相当于下山,随机初始化权重相当于随机选择起点,不同的超参数是不同的下山方法,有的超参数能帮你快速到达山谷最低点,有的则很慢。调参就是找到最快到达最低点的参数。随机初始化权重就是随机选择起点,尝试不同的路径去试探。所以我觉得不用固定初始化权重。
查看原帖
点赞 评论
相关推荐
点赞 评论 收藏
分享
点赞 评论 收藏
分享
点赞 评论 收藏
分享
牛客热帖
更多
正在热议
更多
# 春招什么时候投? #
11576次浏览 192人参与
# 牛友的春节生活 #
8945次浏览 173人参与
# 春节前,你还在投简历吗? #
15455次浏览 179人参与
# 我们是不是被“优绩主义”绑架了? #
31427次浏览 480人参与
# 牛客AI体验站 #
15125次浏览 268人参与
# 备战春招/暑实,现在应该做什么? #
5975次浏览 175人参与
# 从夯到拉,锐评职场mentor #
5898次浏览 88人参与
# 实习到现在,你最困惑的一个问题 #
5154次浏览 144人参与
# 春节提前走,你用什么理由请假? #
11538次浏览 265人参与
# 距离春招还有一个月,你现在是什么开局? #
7792次浏览 121人参与
# 今年秋招你收到了多少封邮件? #
37926次浏览 279人参与
# 暑期实习什么时候投? #
7990次浏览 182人参与
# 聊聊Agent开发 #
27103次浏览 627人参与
# 机械制造面试记录 #
314186次浏览 3159人参与
# 推荐一个值得做的AI项目 #
7475次浏览 187人参与
# 如何看待offer收割机的行为 #
1038214次浏览 6595人参与
# 非技术投递记录 #
691572次浏览 6857人参与
# 2025,我想...... #
88230次浏览 668人参与
# 考研人,我有话说 #
167347次浏览 1252人参与
# 找工作,行业重要还是岗位重要? #
96575次浏览 1839人参与