科大进面了

研0想投腾讯项目实习生，求问一般实习多久？面试一般面几轮呀？

我怀疑是因为这个我今天华为一面就被挂了，肯定不是因为我没实习学的不行面的也一般

1. 介绍自己的项目2. LLaMA和GLM的区别，模型架构等方面3. BLEU和ROUGE4. 数据量和这个效果之间的关系是什么样的5. LLM的参数介绍（temp topk top p等）6. 长度过长怎么处理，从是否fix原有模型回答。（BPE 扩展词表，分阶段generate）以及从input直接回答7. PEFT的方式8. data construction的tricks6. 淘天客服部门1. LLM generate 参数问题2. slef-attention得根号d3. LLM的评估4. 介绍下simCSE5. 解决tokens不够的问题应该怎么办6. 详细介绍下deepspeed（三个stage结合参数回答）7. gpt和llama的区别（模型结构上的）8. LORA论文讲一下，对比p-tuning9. LLM训练的时候为什么warmuppretrain数据量大，前面的数据量占比小，可能带来bias参数量大，初始化的时候w是随机的，防止爆炸10. 对比学习中的batch size是大一些好还是小一些好->大一些，甚至可以到10k+，为了构造好的negative样本11. coding：给你一个数组，返回其中的前k个出现频率最高的元素，假设数组特别大，k很小

在面试快手一面的时候，面试官很专业，大模型应用懂得很多，这让我这个大模型应用半吊子被拷打麻了，但是我却很感谢这个面试官，因为拷打过程中他没有一丝的不耐心，虽然不会这个知识，但是没有让我感到一丝的不适和被羞辱的感觉。虽然确实被拷打麻了，但是确实问到了很多我未曾深入了解的知识，包括BM25公式，Re-ranking细节等。后面也补上了这一部分知识，让后面的面试更加顺利。所以提早暴露出面试的问题也未尝不是意见好事！