一面:1. 项目(MPS, 训练内存, 调度策略, 时分复用和空分复用)2. LLM推理有什么主要瓶颈3. LLM推理主要的优化技术4. page attention5. orca迭代级请求调度手撕: 反转链表二面: 1. 项目(MPS, GPU占用率指标)2. C++ 数组下标越界了会报什么错3. 怎么Debug, linux环境下如何定位错误手撕: LRU cache

个人背景可以看之前写的腾讯LLM面经一面/技术面 2024/4/7 晚上19:00-20:00没有自我介绍，直接让介绍一些工作介绍了NeurIPS论文介绍了ICDM论文问了本科的建模？这属实没想到。。。着重介绍了快手的实习，面试官说他之前也做过搜广推这块的，所以问得比较详细图与LLM结合这块了解多吗？说了一些现有的工作面试官说他们现在在做一些代码生成/理解的东西，问我对这块有没有什么理解和想法，开放性问答问我有没有上手过一些LLM的东西，我说了LoRA微调，让我说了下原理LoRA一般用在哪里？用在不同地方有什么区别吗来了一个新面试官，让我再用几句话总结一下快手的实习为什么你做的东西会有效果？简...

有没有大佬了解深言和澜舟大模型算法岗呢？一个是做llm 训练一个是做rag 求指点

个人背景可以看之前写的腾讯LLM面经一面/技术面 2024/3/20 下午15:00-16:00一面是电话面你对大模型有什么了解？简单说了大致的流程，预训练、有监督微调，RLHF之类的说一下RLHF的具体流程给了一个场景：如果现在给你一个预训练模型，然后场景是要帮助小学生做数学题，你会如何从头到尾来做这件事？大概提了数据收集，清洗，然后有监督微调，思维链分解过程之类的东西，还有幻觉问题你刚刚提到了幻觉问题，请问你知道有哪些缓解幻觉问题的思路吗？（结合之前写的基金本子回答了一波）你刚刚提到了思维链，大概说一下流程说一下NIPS那篇论文，中间问了大概十多个问题写代码，以为会是LeetCode那种，...