1.自我介绍（2-3min）2.深挖过往实习经历（10-15min）3.RAG链路的流程。如何评估rag的效果？有哪些指标？4.讲讲微调（全量和高效）。LoRA的原理。了解多少别的变种？5.Transformer八股。讲讲自注意力机制。了解什么位置编码方式？6.模型训练过程中出现部分节点失活的情况，数据应该怎么处理？7.了解哪些强化学习算法？off-policy的举几个例子。8.讲讲PPO和GRPO9.看过什么论文？10.手撕二叉树中序遍历非递归

大工本硕软工，末9且没有论文，debuff拉满感觉做不了算法，想走业务，搜推和大模型的一些岗位或许对论文要求没那么高，现在在中大厂做医疗大模型实习，想要在明年找一段bat等级大厂实习，能走下去吗，搜推大模型bar是否够，前景如何

笔试时间：2025 年 2 月 20 日笔试公司：阿里巴巴考试题型：25 道选择、4 道编程，主要考察了 Java 并发、JVM、微服务、算法（树、图）方向的知识笔试题解：其中一道编程题是 “大规模数据去重与统计”，给定 10 亿级别的用户 ID，要求统计出现次数 Top10 的 ID。解题思路是先用布隆过滤器初步过滤不存在的 ID，再用分治思想将数据分片，在每个分片内用 HashMap 统计，最后合并结果并排序。笔试感受：阿里的笔试注重技术深度和大数据场景的解决方案，需要对 Java 生态有系统的认知，并且具备处理海量数据的思维。

1. 介绍自己的项目2. LLaMA和GLM的区别，模型架构等方面3. BLEU和ROUGE4. 数据量和这个效果之间的关系是什么样的5. LLM的参数介绍（temp topk top p等）6. 长度过长怎么处理，从是否fix原有模型回答。（BPE 扩展词表，分阶段generate）以及从input直接回答7. PEFT的方式8. data construction的tricks6. 淘天客服部门1. LLM generate 参数问题2. slef-attention得根号d3. LLM的评估4. 介绍下simCSE5. 解决tokens不够的问题应该怎么办6. 详细介绍下deepspeed（三个stage结合参数回答）7. gpt和llama的区别（模型结构上的）8. LORA论文讲一下，对比p-tuning9. LLM训练的时候为什么warmuppretrain数据量大，前面的数据量占比小，可能带来bias参数量大，初始化的时候w是随机的，防止爆炸10. 对比学习中的batch size是大一些好还是小一些好->大一些，甚至可以到10k+，为了构造好的negative样本11. coding：给你一个数组，返回其中的前k个出现频率最高的元素，假设数组特别大，k很小