首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
牛客482869769号
2019-03-22 10:56
已编辑
关注
已关注
取消关注
请教一下各位牛油,为何激活函数需要具备单调性?
可微是为了保证单向传播梯度计算,单调性的目的是什么呢?看到有的论文说,是能够保证单层模型具有凸函数性能,不是很理解,求大佬们指点一下。
提示
全部评论
推荐
最新
楼层
GoKuSon
北京大学 算法工程师
从最简单的角度考虑,凸函数容易优化啊,不存在鞍点或者局部最优解这种问题,事实上在训练复杂模型的时候很容易跑到局部最优解,你考虑一个小坑挨着一个大坑,大坑的最低点是你想要的最优解,结果你一不小心掉到了小坑里,学习率和扰动不足以使你跳出小坑,那就很坑爹了😂激活函数的目的无非就是信息压缩和到概率空间的映射;单调性这块,我觉得应该就是出于凸优化的这个考虑,不在最简单的地方摔跟头
点赞
回复
分享
发布于 2019-03-21 23:35
找完工作和实习继续找工作
美团_算法工程师
你看的这个说法的来源可能是凸函数复合一个单增凸函数还是凸函数,但是激活函数本身不一定是凸的,所以我觉得存疑。
点赞
回复
分享
发布于 2019-03-21 23:09
找完工作和实习继续找工作
美团_算法工程师
因为激活函数基本都是对0-1跳变函数的近似,而0-1跳变函数本来就是单调的。我猜的。
点赞
回复
分享
发布于 2019-03-21 23:07
暂无评论,快来抢首评~
相关推荐
05-07 17:57
米哈游_游戏测试开发工程师(准入职员工)
米哈游内推-米哈游内推码
米哈游前端二面面经楼主秋招已经结束了,之前泡池子期间不敢发出来,所以打算等秋招结束后发出来,能在未来给大家参考。因为时间有些久远,楼主只能将当时的一些记录发出来,有些细节的地方可能不清楚,仅供大家参考。时间:2024-07-29持续时间:1h流程面试官说明今天面试问的三个环节: 自我介绍 + 针对项目问一些知识写一道题反问自我介绍上一段实习在联想主要做的是什么产品,采用了什么技术架构。介绍下你在联想期间使用的微前端技术。iFrame之间如何通信。介绍下你说的postMessage方法怎么做通信。假如我有一个场景,postMessage发送一个长消息时中断了,即传输中断了,你如何去做一些补偿措施...
点赞
评论
收藏
分享
05-05 17:40
海康威视_技术支持部_云存储开发工程师(准入职员工)
海康威视内推海康威视内推
工作体验,本人985,产品实习工作感受:部门氛围比较轻松,大家总是有说有笑,工作时偶尔闲聊开玩笑。和同事对接时,他们不会区别对待实习生,把你当做正式员工来交流和讨论项目,给你充分的尊重。总体来说,工作内容和职位描述相同。mentor布置任务时也会给你留充分的时间去做,并且告诉你不用着急慢慢做,但是会让你预估完成时间,不会的问题也有问必答。 工作时间:上午9:30-12:00 下午13:30-18:00 快下班的时候同事就不会和你讨论工作或交代任务了,实习生基本上准时下班,很贴心。但是正式员工忙起来平均0点下班。 实习成果 第一次做产品方向的实习,还是有学到一些干货的,但更多地是...
海康威视公司氛围 276人发布
点赞
评论
收藏
分享
03-20 13:05
哈尔滨理工大学 算法工程师
这种简历在成都还能进互联网公司吗🥹
点赞
评论
收藏
分享
03-15 14:55
已编辑
门头沟学院 golang
26届学院本上岸字节暑期!
bg:双非学院本 ACM银 go选手timeline:3.1号开始暑期投递3.7号第二家公司离职顽岩科技 ai服务中台方向 笔试➕两轮面试,二面挂(钱真的好多😭)厦门纳克希科技 搞AI的,一面OC猎豹移动 搞AIGC方向 一面OC北京七牛云 搞AI接口方向 一面OC上海古德猫宁 搞AIGC方向 二面OC上海简文 面试撞了直接拒深圳图灵 搞AIGC方向一面后无消息懒得问了,面试官当场反馈不错其他小厂没记,通过率80%,小厂杀手😂北京字节 具体业务不方便透露也是AIGC后端方向2.28约面 (不知道怎么捞的我,我也没在别的地方投过字节简历哇)3.6一面 一小时 半小时拷打简历(主要是AIGC部分)剩余半小时两个看代码猜结果(经典go问题)➕合并二叉树(秒a,但是造case造了10分钟哈哈)一天后约二面3.12 二面,让我挑简历上两个亮点说,主要说的docker容器生命周期管理和raft协议使用二分法优化新任leader上任后与follower同步时间。跟面试官有共鸣,面试官还问我docker底层cpu隔离原理和是否知道虚拟显存。之后一道easy算法,(o1空间解决 给定字符串含有{和}是否合法)秒a,之后进阶版如何用10台机加快构建,想五分钟后a出来。面试官以为45分钟面试时间,留了18分钟让我跟他随便聊,后面考了linux top和free的部分数据说什么意思(专业对口了只能说,但是当时没答很好)。因为当时手里有7牛云offer,跟面试官说能否快点面试,马上另外一家时间到了。10分钟后约hr面3.13,上午hr面,下午走完流程offer到手3.14腾讯技术运营约面,想直接拒😂感受: 因为有AIGC经验所以特别受AI初创公司青睐,AIGC后端感觉竞争很小(指今年),全是简历拷打,基本没有人问我八股(八股吟唱被打断.jpeg),学的东西比较广的同时也能纵向深挖学习,也运气比较好了哈哈可能出于性格原因,没有走主流Java路线,也没有去主动跟着课写项目,项目都是自己研究和写的哈哈
烤点老白薯:
你根本不是典型学院本的那种人,贵了你这能力
查看7道真题和解析
点赞
评论
收藏
分享
不愿透露姓名的神秘牛友
05-09 11:09
校招0offer偷走了属于我的自信心
临近毕业,最近学院开始统计大家去向,多数人已经有了满意的offer,剩下来少数还没结果,而我就是没结果的那个。从这学期开学后,我每天的生活就是投简历、做测评、等面试。到今天为止,很多家简历都没过的,进面的公司也都没有到最终环节就停止流程了,只收到了一家小厂的offer,甚至不算小厂,人数不到50人的小公司,所以我拒绝了,想着再找找看。。。但是5月其实能投递的企业越来越少了,家里人不理解,怎么会读到研究生了还找不到工作,觉得是我的问题,别人怎么有工作的,于是慢慢和家里人也不想沟通工作问题了。读研以来,我已经慢慢开始不爱发朋友圈了,觉得自己的生活枯燥无味,老实说,每次看到朋友圈里朋友们分享自己的生...
真烦好烦真烦:
不和别人做比较,继续投吧,毕业一俩年都找不到工作的人很多,趁着自己的应届生身份,先别怀疑自己,再多投几家
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
3
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
可是妈妈,我好像没那么优秀
2.5W
2
...
双非天坑本转码暑期记录(附字节详细tl)
7398
3
...
27届双非-杭州小厂-一面通过-5/10
7031
4
...
招联金融暑期实习面经
6752
5
...
你们真是太牛了
6210
6
...
校招0offer偷走了属于我的自信心
5115
7
...
暑期实习0offer惨淡记录
4806
8
...
怎么感觉牛客27届实习的越来越多了?
4806
9
...
贝壳找房你无敌了
4674
10
...
从 IEG 到 WXG,我的暑期实习总结(附面经)
4540
创作者周榜
更多
正在热议
更多
#
面试问题记录
#
41652次浏览
625人参与
#
工作一周年分享
#
17113次浏览
108人参与
#
京东TGT
#
40180次浏览
160人参与
#
入职第五天,你被拉进了几个工作群
#
15985次浏览
80人参与
#
机械人,你的第一份感谢信是谁给的
#
24955次浏览
296人参与
#
假如我穿越到了妈妈的18岁
#
3855次浏览
37人参与
#
面试经验谈
#
28153次浏览
404人参与
#
面试吐槽bot
#
8540次浏览
62人参与
#
视觉/交互/设计招聘信息汇总
#
12356次浏览
596人参与
#
职场捅娄子大赛
#
267726次浏览
2387人参与
#
国企vs私企,你更想去?
#
214764次浏览
2040人参与
#
零跑求职进展汇总
#
3707次浏览
17人参与
#
请用你的专业向妈妈表白
#
7387次浏览
70人参与
#
上班苦还是上学苦呢?
#
216535次浏览
1288人参与
#
腾讯云智研发工作体验
#
21353次浏览
142人参与
#
妈妈治愈了你哪些脆皮时刻
#
9730次浏览
131人参与
#
职场新人生存指南
#
343071次浏览
7333人参与
#
非技术er求职现状
#
55560次浏览
407人参与
#
对妈妈没说出口的话
#
20049次浏览
423人参与
#
作业帮求职进展汇总
#
50758次浏览
343人参与
#
异地恋该为对方跳槽吗
#
30884次浏览
150人参与
牛客网
牛客企业服务