首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
牛客674377号fighting
2017-08-16 11:10
已编辑
Akademia Rolnicza w Szczecinie Java
关注
已关注
取消关注
为啥给定初始值,梯度下降算法能取得最优值?
为啥给定初始值,梯度下降算法能取得最优值?
提示
全部评论
推荐
最新
楼层
骏博日博的迷弟
浙江交通职业技术学院 算法工程师
首先,泰勒展开,负梯度方向是descent direction。 其次,梯度下降(其他的line search、trust region也一样)只有在原问题是凸问题的情况下,才能保证以任意精度(因为毕竟是数值方法)取得最优解。 非凸情况下,改进的GD(比如随机初始化,escape saddle等trick等等)也只能保证以概率无限接近于1取得局部最优。
点赞
回复
分享
发布于 2017-08-16 11:12
haolexiao
北京大学 C++
泰勒定理展开取第一项,当delta x取导数的相反数的时候其稳定为负,所以就能一直下降
点赞
回复
分享
发布于 2017-08-16 11:08
我不是渣神
中国科学院大学 算法工程师
个人见解:梯度下降求解无约束最优化问题实现简单,好用。例如LR中的目标函数是光滑的凸函数,这时候保证能找到全局最优解,因为负梯度的方向朝向函数下降最快的方向,永远朝向全局最小值(最大值则反之)。当有多个极大值或极小值时,需要对梯度下降进行优化,比如动量,NAG,Adagrad,RMSprop等,可以减少陷入极大值极小值的可能性,设置得当可以得到全局最优解,但并不能100%保证获得全局最优解。
点赞
回复
分享
发布于 2017-08-16 10:58
256785
南开大学 Java
不一定啊,得是凸优化才行吧
点赞
回复
分享
发布于 2017-08-16 11:42
已删除
最初版本的GD是不能取得最优的,会陷入局部最优。
点赞
回复
分享
发布于 2017-08-16 11:16
暂无评论,快来抢首评~
相关推荐
01-22 13:38
柠檬微趣_人力资源_HR
27届实习时间线
**本篇文章针对的27届同学,主要内容就是对于26年校招整体时间节点和进程的推定**,还有如何根据自己的实际情况采取有利的措施,尽量收获自己能力范围内最好的offer,篇幅比较长,全都是干货。## 26年与25年的异同26年的暑期实习目前基本都还没开,不过也快了,**在2/20-3/10**这二十天内就会应开尽开,例如去年字节2.20日开启暑期实习,腾讯2.25日开启暑期实习,美团2.26日,阿里3.2日去年笔试集中在三月初开始,例如饿了么0307开启第一场笔试,美团0308开启第一场笔试,阿里云03.09开启第一场笔试。**今年预计时间会比去年提前两到三天。**对于大厂来说,今年暑期实习的h...
想实习转正,又想准备秋招...
点赞
评论
收藏
分享
01-20 10:09
西安电子科技大学 Java
27届高德一面
📍面试公司:高德地图🕐面试时间:2026.01.19❓面试问题:介绍实习项目为什么要使用CompletableFuture进行异步检索有其他方案的考量吗AOP如何做性能分析可以用web日志和nignx日志,用aop有其他考虑吗AOP底层原理JDK和CGLIB选型考虑分表的依据和实现shardingsphere底层如何实现分表和路由的分表是否考虑分布均匀,冷热数据如何解决冷热数据的问题Redis的GEO做了什么功能GEO的原理线程池的核心参数和如何设置这些参数核心线程和最大线程是否可以相等拒绝策略选择CallerRuns,是否可能阻塞主线程Redis的Set,Zset,Bitmap做了哪些功...
查看23道真题和解析
点赞
评论
收藏
分享
2025-12-07 15:42
中南林业科技大学 算法工程师
没点抗压能力,真的不要来大厂
众所周知,字节的福利非常香,无限量零食、咖啡&免费三餐、周边礼物很多、工作环境也是数一数二…… 但是字节太需要自律和抗压强的人了,入职两周了还没有彻底适应,我是第一次来到大厂实习,之前也没有进入过高强度互联网大厂,并且去到的实习岗位接触到的内容完全是全新的 我还是组里唯一的实习生,除了mt没有可以问的人,mt发送了很多文档,文档里面套文档,点开感觉无穷无尽,还好我的mt人比较好,在我看不懂的时候能在他空闲时候开会了解但是真的很需要有极强的学习力、抗压力、自驱力,因为进去大家节奏很快,这也导致压力很大,压力大还不知所措很痛苦,不过真的体验到了字节一天人间三天……想来的朋友还是掂量一下吧
在泡澡的90后很想退...:
真正需要极强学习能力的不是大厂工作,而是外包
字节跳动公司福利 1359人发布
点赞
评论
收藏
分享
01-22 09:13
蚌埠坦克学院 嵌入式软件开发
嵌入式进大厂:刚需技术栈与八股文准备指南
对嵌入式工程师来说,进大厂并不是“会不会写代码”的问题,而是你是否具备可规模化培养、可长期使用的能力。面试所考察的技术栈和八股文,本质上都是在验证这一点。一、嵌入式进大厂的核心技术栈(拆到不能再拆)1. C / C++:不是会写,是吃透在嵌入式面试中,C 语言几乎决定生死。重点不在语法,而在以下能力:内存模型栈、堆、全局区、常量区的区别局部变量和静态变量的生命周期野指针、悬空指针产生的原因指针与数组指针运算的本质函数指针、回调的真实用途位运算掩码、置位、清零外设寄存器操作的常见写法volatile / const / inlinevolatile 为什么能防止编译器优化在中断、DMA、寄存器访...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
实习产出如何包装?
9328
2
...
32岁程序员猝死,底薪3千要24h待岗
2904
3
...
【官方活动】牛客新春计划:给陌生人的一封信
2636
4
...
实习生怎么快速融入团队
2368
5
...
后端从0开始来得及吗
1399
6
...
27届实习全时间全方位大体指南
1350
7
...
20多岁最痛苦的年纪
1277
8
...
绷不住了,找了一个月实习嵌入式还找不到
1231
9
...
25届工作半年,想辞职了
1131
10
...
在咖啡店、家里、公司走廊哪里都可以来一场面试
1061
创作者周榜
更多
正在热议
更多
#
牛客十周岁生日快乐
#
206815次浏览
1932人参与
#
你觉得什么岗位会被AI替代
#
34917次浏览
232人参与
#
我和mentor的爱恨情仇
#
101705次浏览
922人参与
#
一人一个landing小技巧
#
143158次浏览
1498人参与
#
如果工作一直消耗情绪还要继续做吗
#
18108次浏览
83人参与
#
四大天坑是哪四家?
#
101663次浏览
235人参与
#
互联网公司评价
#
479808次浏览
4091人参与
#
机械人春招想让哪家公司来捞你?
#
377810次浏览
3127人参与
#
聊聊你的被动加班经历
#
4486次浏览
80人参与
#
在国企工作的人,躺平了吗?
#
392116次浏览
3951人参与
#
我的求职精神状态
#
422510次浏览
3075人参与
#
华为工作体验
#
289434次浏览
1376人参与
#
实习吐槽大会
#
404973次浏览
2168人参与
#
工作压力大怎么缓解
#
138937次浏览
1260人参与
#
找工作以来,你最看不惯__
#
17650次浏览
352人参与
#
你的mentor是什么样的人?
#
49284次浏览
705人参与
#
第一次找实习,我建议__
#
69314次浏览
841人参与
#
实习教会我的事
#
52216次浏览
413人参与
#
实习怎么做才有更好的产出
#
14083次浏览
263人参与
#
AI coding的好用工具分享
#
21746次浏览
409人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务