阿里云研发大白菜

算法工程师，35.4k*19 双一流硕，a不动了，对我来说也算还可以比较满意的水平吧，准备接了

好烦，一边转正实习要表现好，一边毕业论文，一边学分要注意，烦死了

主要纠结滴滴和得物，滴滴是用户增长部门，业务挺喜欢的，但是好像很卷？薪资应该是sp里偏高的，无签字费，base北京得物是做供应链平台，第一年总包算上签字费比滴滴高了接近20w，有房补，base上海现在对得物的薪资很心动，但是看网上得物的风评不太好，担心自己卷不动，而且不清楚得物以后跳槽的认可度如何选滴滴的话，title还是不错的，工作强度相对没那么大，但是薪资方面相比于得物还是会有落差的打算先签一个当保底，后面再看看补录和春招的机会，大佬们有什么好的建议吗

面试题简述训练大模型经常会遇到梯度爆炸和消失，你知道有哪些改善方法吗？softmax会不会导致梯度爆炸或消失？transformer的设计里有哪些方法用于解决这个问题？面试官想听的1、L2 clipping、梯度缩放、初始化模块；2、softmax为什么会导致梯度爆炸；3、了解 DeepNet init、RMSNorm 等提升稳定性的方法。面试回答举例梯度爆炸一般用梯度剪裁解决，梯度消失可以通过残差连接 + 合理初始化 + LayerNorm 减轻。softmax 本质上确实会带来梯度集中到一个token上，从而导致梯度消失，尤其是 logits 非常大时。详细内容可跳转该链接查看详情：htt...