北京太冷了！不想上班呜呜

面试题简述训练大模型经常会遇到梯度爆炸和消失，你知道有哪些改善方法吗？softmax会不会导致梯度爆炸或消失？transformer的设计里有哪些方法用于解决这个问题？面试官想听的1、L2 clipping、梯度缩放、初始化模块；2、softmax为什么会导致梯度爆炸；3、了解 DeepNet init、RMSNorm 等提升稳定性的方法。面试回答举例梯度爆炸一般用梯度剪裁解决，梯度消失可以通过残差连接 + 合理初始化 + LayerNorm 减轻。softmax 本质上确实会带来梯度集中到一个token上，从而导致梯度消失，尤其是 logits 非常大时。详细内容可跳转该链接查看详情：htt...

1.实习介绍2.实习base模型的大概结构3.长序列建模方式4.离线和在线主要看的指标5.粗精排是否要保持一致性6.transformer结构7.1112正则化 都用在哪些场景8.精确率和召回率9.实习过程中的最大收获10.遇到的困难11.算法题:找到有最大和的子数组，加起来和为目标值的组合312.反问

想问一下牛客的大佬，我现在有一段米的实习，片数据挖掘，用到的都是机器学习，现在想转推荐算法，想问一下，现在这个赛道学历要求高吗？ bg：双非本（双一流），211硕

lz 已经毕业 1 年多了，当年参加了校招进了一个名义上的大厂，经历了一年多如同噩梦般的经历后，终于好不容易逃离苦海。这一年让我学会了复盘，嗯，我从我校招找工作时就开始复盘(hahaha)，给后来校招的同学们留下一些小 tip，万望不要踩雷。1. 不要拘泥于手上已经拿到的 offer，更千万不要沉浸在拿到 offer 的喜悦久久无法自拔。 除非这个 offer 你已经特别特别特别满意了(注意这三个特别)，不然还是继续面试叭，别怕累，将来的你会感谢现在的自己的。2. 如果能实习也可以去实习实习(除非你自己真的学业上没时间)，能够让你及时发现这公司的弊端，也能让你在多家公司做实际体验对比。待两周适应不了及时跑路，否则等正式入职再想跑路那对你的成本将是天文数字。毕竟校招的第一家公司基本上得待上两年以上，以薪资看 offer 属实是太片面了，还是需要结合多个维度看，否则等毕业入职就会体验到开盲盒的惊悚感。 我入职不久就跑路的经历可以说是跑得非常艰难且对我自己的简历经历成本非常高，进了新公司已经有一种“你没进过正规公司吧”的感觉。3. 拿到 offer 后 多留意一些社招话题，(别听信什么校招和社招不一样，校招是当亲儿子培养，实际上校招生在大多数公司被当成耗材，你懂的)。多关注脉脉，微博，热搜之类，可能有假，但是当舆论成风时也有八九成是真的。或者私聊一些正在内部工作的人，呆的不舒服的真的你一问他就会炸雷般得跟你吐槽。4. 面试只是一场双向选择，不要因为面试被拒而难过，多提升自己才是王道。然后，海投海面，被拒是人家的损失，不是你的损失。5. 哪怕入职后，对于大量 pua 的话题一定要左耳进右耳出，只要你自己觉得问心无愧就好。校招生基本改变不了太多，进入一个组当你发现你变成末尾的时候，只是这个团队内部早就已经阶级定型罢了(耗材哈哈)。6. 接到 offer 后， 如果有机会，找学长学姐打听一下这个团队的人员年龄分布(大厂的通讯录基本是互通的)，最理想的情况是各个年龄段均匀分布，全是年轻人的话也可以呆一呆提升一下自己，最可怕的是全是老登的组，年龄断代的组，说明这个组的利益分配已经定型，你进去只能当炮灰。嗯，，暂时只想到这些，后续想到别的还会再补充。