北京国央企offer帮选

面试题简述训练大模型经常会遇到梯度爆炸和消失，你知道有哪些改善方法吗？softmax会不会导致梯度爆炸或消失？transformer的设计里有哪些方法用于解决这个问题？面试官想听的1、L2 clipping、梯度缩放、初始化模块；2、softmax为什么会导致梯度爆炸；3、了解 DeepNet init、RMSNorm 等提升稳定性的方法。面试回答举例梯度爆炸一般用梯度剪裁解决，梯度消失可以通过残差连接 + 合理初始化 + LayerNorm 减轻。softmax 本质上确实会带来梯度集中到一个token上，从而导致梯度消失，尤其是 logits 非常大时。详细内容可跳转该链接查看详情：htt...

我是今年秋招生，手上有两个offer，百度网盘客户端和天翼云后端，百度28k×16  天翼云21k×15+7w福利，求大佬们给点建议，该选哪个

先说一下大部分人的最好的抉择就是进大厂。1 进大厂也就这回事大厂里也有只有2，3年开发经验的初级开发，而且其中有些同学的学校可能也就是个二本，或许他们进大厂前，资历技术和你也差不多。甚至可以这样说，只要找到渠道去面试，外加适当的准备技巧，进大厂其实比进一些面试要求比较苛刻的小公司更容易。就拿一些步骤来说吧，简历方面，只要有适当的分布式组件经验就至少能得到面试机会，面试时，当然如果光会增删改查当然不行，不过面试问到的题目以及提问的方式，网上多了去了，本文也会涉及，关键第一要适当看分布式技术，第二要结合项目说，这对初级开发而言，也不难。甚至当有些项目比较缺人时，面试的标准更会降低。2.大小厂优劣势...

22K*15后端，是不是大白菜啊！