Shopee咨询，算法岗求个面经

第一次面大模型的面试， 八股真的是背了也忘， 汗流浃背。1. 自我介绍2. LLAMA 的结构有什么特点？（第一个就汗流浃背， 不知道从哪方面入手说。 我是说 casual lm 的 mask，only decoder， 说 pre layer norm， 说激活函数也不是 relu）2.由上引发的题， 讲一下 LLAMA 的 layer norm， 我忘记 llama 是 pre rms norm 了，一直没说出来。面试官就想问这个。3. 讲一下 LLAMA 的激活函数吧。 汗流浃背，就知道是 swiGLU。 我就说那个 swish 函数为头的门控线型单元吧啦吧啦的，说的结结巴巴。公式也没记住。4. 详细介绍一下 Transformer 的结构。（在 encoder 输入给 decoder 的 K V 我说成了 Q V，然后就说我也记不清是 K 还是 Q 了。。。）5. 为什么计算注意力 QK 分数要除以维度开根号？为什么不能直接除以维度？（就瞎扯容易数据太小， 收敛太慢巴拉巴拉。。。）6.讲一下你对  位置嵌入的了解。（绝对位置相对位置一顿输出）7. 说一下你知道的 tokenizer 的分词办法。（详细说了 bpe， wordpiece 和 unigram 都记不得了，连这两个名词我都说不清）算法题一个， 岛屿数量。

​         经历了2023年的秋招，现在也已经入职半年了，空闲时间将面试中可能遇到的机器学习问题整理了一下，可能答案也会有错误的，希望大家能指出！另外，不论是实习，还是校招，都祝福大家能够拿到满意的Offer!机器学习面经系列的其他部分如下所示(这是我在其他地方写的，感兴趣的同学可以点波关注捏)：机器学习面经-共13章节1、机器学习模型1.1 有监督学习模型​1.2 无监督学习模型​ 1.3 概率模型​什么是监督学习？什么是非监督学习？         所有的回归算法和分类算法都属于监督学习。并且明确的给给出初始值，在训练集中有特征和标签，并且通过训练获得一个模型，在面对只有特征而没有...

如题，24届，现在base上海在tt实习4个多月了还在职，求春招捞个正式岗，大模型/nlp方向，可提前过去实习

如题  bg 双非本 9 硕有一段大厂的开发实习，实验室在做大模型，但是自己没有论文，想找大模型实习还有希望吗，还是找开发去😭 #我的实习求职记录# 引流：字节，腾讯，阿里，百度，快手