神经网络调节超参数的时候，有没有必要确保不同超参数的验证集结果，对应的初始化权重相同呢？如果不固定的话，感觉不同超参数对应的验证集结果差异会受到每次权重随机初始化的影响，不能完全反映是不同组超参数之间性能的好坏，这个怎么理解呢？？希望能得到大家的解答。
算法学习交流
全部评论
就算你超参数不变，每次随机初始化，训练的结果都不一样。梯度下降法相当于下山，随机初始化权重相当于随机选择起点，不同的超参数是不同的下山方法，有的超参数能帮你快速到达山谷最低点，有的则很慢。调参就是找到最快到达最低点的参数。随机初始化权重就是随机选择起点，尝试不同的路径去试探。所以我觉得不用固定初始化权重。
点赞 回复 分享
发布于 2021-03-23 14:38

相关推荐

01-04 23:01
武汉大学 Java
点赞 评论 收藏
分享
今天 11:18
门头沟学院 C++
简历挂麻了？因为你的简历只有“宽度”没有“深度”！
求职新手做简历有一个通病：简历都写得很满，技术栈堆了一大堆（Java/Go/Python/Docker/c++全写上），项目也写了两三个，但面试邀请率低的可怜。为什么？因为你的简历是一篇流水账，而不是一份战绩表。普通的简历只能证明“你会用这个工具”，而有深度的简历能证明“你有解决问题的脑子”。在面试官眼里，有深度的简历和小白简历的区别，就在于能不能回答这几个问题：难在哪里？ (Technical Complexity)你是怎么解决的？ (Problem Solving)结果提升了多少？ (Quantifiable Impact)后续还可以怎么优化？ (Plan/Evolution)内容有了，那...
有深度的简历长什么样？
点赞 评论 收藏
分享
2025-11-18 18:24
北京理工大学珠海学院 嵌入式软件工程师
又约到了一个线上面试
已经不紧张了  
秋招投简历提醒助手：个人经验是，一般面二十场左右就会进入侃侃而谈阶段。我今年七月末的时候开始的第一次面试，都是很多不会，回复很慢。后面慢慢迭代，到九月中的时候基本上面啥说啥，很放松的状态
远程面试的尴尬瞬间
点赞 评论 收藏
分享
2025-12-18 11:59
门头沟学院 游戏策划
点赞 评论 收藏
分享
01-04 23:05
武汉大学 Java
点赞 评论 收藏
分享
评论
1
收藏
分享

全站热榜

更多

创作者周榜

更多
正在热议
更多
# 26年哪些行业会变好/更差 #
10487次浏览 140人参与
# 卷__卷不过你们，只能卷__了 #
3906次浏览 92人参与
# 去年的flag与今年的小目标 #
5137次浏览 131人参与
# 哪些公司在招寒假实习？ #
5018次浏览 53人参与
# 有深度的简历长什么样？ #
10541次浏览 203人参与
# 入职第一天 #
6421次浏览 125人参与
# 你都用AI做什么 #
3984次浏览 100人参与
# 写论文的崩溃时刻 #
2386次浏览 63人参与
# 你不能接受的企业文化有哪些 #
5468次浏览 93人参与
# 一人分享一道面试手撕题 #
13715次浏览 621人参与
# 央国企投递记录 #
169898次浏览 1632人参与
# 应届生应该先就业还是先择业 #
162455次浏览 825人参与
# 腾讯音乐求职进展汇总 #
146713次浏览 1041人参与
# 非技术投递记录 #
678243次浏览 6832人参与
# 实习，不懂就问 #
148025次浏览 1328人参与
# CVTE求职进展汇总 #
29107次浏览 334人参与
# 毕业论文怎么查AI率 #
71027次浏览 1945人参与
# 机械应届生薪资要多少才合适？ #
35694次浏览 107人参与
# 滴滴求职进展汇总 #
293018次浏览 2416人参与
# 你最近一次加班是什么时候？ #
106027次浏览 554人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务